X bloqueó las búsquedas de Taylor Swift tras las filtraciones de fotos explícitas de la cantante creadas con IA
Después de que se extendieran imágenes explícitas de Taylor Swift, generadas por inteligencia artificial (IA), la plataforma X ha prohibido cualquier búsqueda relacionada con la cantante pop. Este suceso destaca el aumento de la preocupación de las redes sociales por abordar el problema de los deepfakes: imágenes y sonidos convincentes producidos con IA que pueden ser usados para retratar famosos en situaciones perjudiciales o engañosas sin su aprobación.
Tal vez te agrade: MrBeast sorteará veinticinco mil dólares entre sus seguidores mediante un concurso. Descubre cómo convertirte en el afortunado ganador.
Durante el fin de semana, hacer búsquedas en X con palabras como "Taylor Swift" o "Taylor IA" resultó en mensajes de error, debido a la presencia en línea de imágenes pornográficas creadas por IA de la cantante en los últimos días. Debido a esto, incluso el contenido legítimo sobre Swift se volvió más complicado de encontrar en la plataforma.
La precaución y seguridad son importantes en X, por lo que su jefe de operaciones comerciales, Joe Benarroch, explicó que esta medida es solo temporal. Hasta ahora, Swift no ha hecho ninguna declaración pública sobre el incidente.
Una información que puede resultar de tu interés es que X ha anunciado que en iPhone se dejarán de utilizar las contraseñas y se usarán "passkeys". ¿Te preguntas qué significa esto?
En un entorno donde Elon Musk, el empresario multimillonario, ha comprado X por 44 mil millones de dólares, ha disminuido los recursos destinados a la moderación de contenidos y ha relajado sus políticas para adaptarse a sus ideales de libertad de expresión. Esto ha sido el trasfondo del incidente.
Existe un floreciente mercado de herramientas que permiten a cualquiera utilizar la IA para generar videos o imágenes que parezcan hechos por celebridades o políticos con solo unos clics. Aunque la tecnología deepfake ha estado disponible durante varios años, los avances recientes en inteligencia artificial han hecho que la creación de imágenes más realistas sea mucho más fácil. Los expertos están advirtiendo acerca del aumento de la pornografía falsa, que es uno de los abusos emergentes más comunes de la tecnología deepfake, así como su uso cada vez más frecuente en campañas de desinformación política.
Siendo una de las personalidades más influyentes del mundo, el asunto de Taylor Swift llegó a oídos de la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, quien expresó su preocupación por la difusión de imágenes falsas. Jean-Pierre destacó que, aunque las empresas privadas tienen sus propias normas para controlar el contenido, también tienen una responsabilidad con sus usuarios que deben cumplir.
Podría interesarte que Elon Musk haya visitado Auschwitz en respuesta a la creciente controversia en la plataforma X relacionada con el incremento del antisemitismo.
Si bien las compañías de redes sociales tienen la libertad de tomar sus propias decisiones acerca del manejo de los contenidos, consideramos que es fundamental que ejerzan un rol relevante en la implementación de sus propias reglas.
El 26 de enero, X informó que exhibir imágenes de "desnudos no consentidos" está prohibido en su plataforma. La empresa mantiene una política de "cero tolerancia" hacia dicho contenido y está eliminando activamente cualquier imagen identificada. También se toman medidas adecuadas contra las cuentas responsables mientras se vigila de cerca la situación.
No obstante, a pesar de los esfuerzos de moderación que realizó X, resultó insuficiente para evitar que las fotografías falsas de Swift fueran visualizadas por millones de personas, hasta que finalmente se retiraron. Como resultado, la empresa tuvo que bloquear las búsquedas de esta reconocida estrella a nivel mundial.
404 Media, un sitio de noticias tecnológicas, informó que es posible que las imágenes provengan del polémico sitio 4chan y de la aplicación de mensajería Telegram.
