Ampliar
X Premium es el término con que se conoce a los usuarios de pago de la red social, servicio que antes se llamaba Twitter Blue. Reuters Musk convierte la pornografía infantil generada con IA en producto 'premium'El escándalo de las falsas imágenes sexualizadas sacude X, que responde restringiendo la manipulación de fotos a sus usuarios de pago
Martes, 13 de enero 2026, 09:36
... Twitter– a Grok, la Inteligencia Artificial (IA) de la plataforma de la red social de Elon Musk. 'Cortesía' de la puntera tecnología, la fotografía que aquella chica había subido a su perfil online se transformó sin su consentimiento en material porno en abierto. Copyleaks, una plataforma de análisis de contenido que vigila los excesos de la IA, detectó este 'deepfake' (imagen manipulada) el pasado 30 de diciembre a las 3.50 de la madrugada. Para entonces, 1.800 usuarios habían visto ya el falso desnudo y nueve le habían dado 'me gusta'.La plataforma de Musk ha estrenado el año con controversia por la grotesca moda de los usuarios de utilizar la IA de la red social para desnudar a chicas, algunas menores de edad. Las víctimas, a veces, ni siquiera habían subido la foto original, algunas habían sido 'inmortalizadas' mientras asistían online a una videoconferencia de trabajo, con traje, tal vez tomando notas de la reunión... Pero, de repente, aparecían en ropa interior o desnudas, a la vista de cualquiera.
La polémica subió de tono igual de rápido que lo hacían las imágenes manipuladas, que han poblado X estas últimas semanas. El 6 de enero Copyleaks se hacía eco de nuevo y explicaba que a las burdas órdenes del tipo «ponle un microbikini», «vístela con un tanga», «ponle en film transparente» o «échale aceite por todo el cuerpo», los usuarios, en un intento de esquivar las restricciones de X para evitar este tipo de contenidos, habían «adaptado el lenguaje» recurriendo a otros términos «creativos» como «ponle luces del árbol de Navidad» logrando también así que la IAgenerara imágenes sexualizadas de mujeres, adolescentes y niñas.
El pasado viernes (9 de enero), en un intento de sellar este 'coladero' y, a la vez, de enfriar la polémica, la red social de Elon Musk decidió limitar las funciones de su IA para generar y editar imágenes a los suscriptores de pago. Con esto se acabó el bum, pero el hecho de que las personas que pagan pueden seguir interactuando con Grok para que modifique imágenes y las sexualice ha avivado la polémica. «La respuesta de Musk no supone más que la mercantilización de lo moralmente reprobable. Es todavía más execrable porque es la pura perversión del negocio», censura Cristóbal Torres, catedrático de Sociología de la Universidad Autonóma de Madrid.
Investigación de la Fiscalía
El escándalo ha provocado también que los gobiernos tomen medidas. En España, el 7 de enero, dos días antes de que esta función de la IA de X pasara a ser 'premium', la ministra de Juventud e Infancia, Sira Rego, remitía un escrito a la Fiscalía General del Estado solicitando que investigara a Grok por presuntos delitos de pornografía infantil y difusión de material de violencia sexual contra la infancia (artículos 189 y 173 del Código Penal). En nuestro país, ya hay una sentencia condenatoria por un caso similar: en junio de 2024 el Juzgado de Menores de Badajoz impuso libertad vigilada de un año a quince chicos acusados de manipular y difundir imágenes de una veintena de compañeras suyas de clase, a las que 'desnudaron' con una aplicación de IA. Y en noviembre la Agencia Española de Protección de Datos multaba con 2.000 euros al creador de los 'deepfakes' que afectaron a estas niñas de un pueblo de Badajoz.
En el caso de Grok, las víctimas son menores, mayores y, muchas de ellas, famosas. Copyleaks enumeraba una larga lista de 'celebrities' afectadas: Dua Lipa, Taylor Swift, Anne Hathaway, Dakota Johnson... «A veces comienzan con una sexualización relativamente menos explícita, como representaciones en traje de baño, y después otros usuarios intensifican el contenido, añadiendo elementos visuales, accesorios o texto explícito».
Lejos de ser una reprobable anécdota, «el 3 de enero un usuario usó Grok cincuenta veces para generar imágenes sexualizadas de mujeres en entornos laborales». Sobre los límites morales, el sociólogo recuerda que «la IA tiene que atenerse al código ético que preside las relaciones sociales».
Límite de sesiones alcanzadas
El acceso al contenido Premium está abierto por cortesía del establecimiento donde te encuentras, pero ahora mismo hay demasiados usuarios conectados a las vez.
Por favor, inténtalo pasados unos minutos.
Sesión cerrada
Al iniciar sesión desde un dispositivo distinto, por seguridad, se cerró la última sesión en este.
Para continuar disfrutando de su suscripción digital, inicie sesión en este dispositivo.
Iniciar sesión Más información¿Tienes una suscripción? Inicia sesión