La plataforma X, ha tomado medidas drásticas al bloquear las búsquedas relacionadas con Taylor Swift, después de que imágenes sexualmente explícitas; generadas por inteligencia artificial (IA) se difundieran ampliamente en línea.
Estas imágenes, conocidas como deepfakes, representan una creciente preocupación en las redes sociales; ya que pueden mostrar a personas famosas en situaciones comprometedoras o engañosas sin su consentimiento.
- De su interés: Sony Pictures revela el tráiler de «Tarot» una verdadera película de suspenso y terror
Los usuarios que intentaron buscar términos como “Taylor Swift” o “Taylor IA” en X durante el fin de semana se encontraron con mensajes de error, lo que dificultó el acceso incluso al contenido legítimo sobre Swift; en la plataforma.
Este episodio resalta las dificultades que enfrentan las plataformas en línea para controlar el contenido generado por los usuarios y proteger la integridad de las personas prominentes.
Taylor Swift cae en Deepfakes
La situación es especialmente relevante en el caso de X, una plataforma adquirida por Elon Musk por una suma considerable; donde se han reducido los recursos destinados a la moderación de contenidos y se han suavizado las políticas para reflejar los ideales de libertad de expresión del empresario.
Los deepfakes, que han estado disponibles durante varios años, han experimentado avances significativos en su tecnología, lo que los hace más realistas y difíciles de detectar. El caso de Taylor Swift; destaca la facilidad con la que estos videos generados por IA pueden propagarse en línea y el desafío que representan para las empresas de redes sociales.
Las imágenes falsas de Swift también han atraído la atención de la Casa Blanca, con la secretaria de prensa Karine Jean-Pierre; calificando la situación como “alarmante”. Jean-Pierre enfatizó que las empresas de redes sociales tienen una responsabilidad con sus usuarios para regular el contenido; aunque mantengan sus propias normas internas.
X ha declarado una política de “tolerancia cero”, hacia la publicación de imágenes de “Desnudez No Consensuada (DNC)” y ha prometido eliminar activamente este tipo de contenido; así como tomar medidas contra las cuentas responsables.
Desafíos contra los deepfakes
Sin embargo, la limitada capacidad de moderación de contenido de X no pudo evitar que las imágenes falsificadas de Swift fueran vistas millones de veces antes de su eliminación, lo que subraya los desafíos continuos; que enfrentan las plataformas en línea en la lucha contra los deepfakes.
Según un reporte de 404 Media, se sospecha que las imágenes podrían haberse originado en la plataforma controversial 4chan; y en la aplicación de mensajería Telegram.
