X tiene un grave problema con Grok: se ha convertido en un pozo sin fondo de gente desnudando a mujeres con IA

Desde que la IA de Grok ha conquistado a lo que antaño era Twitter, la red social se ha convertido en un pozo infinito de contenido generado por inteligencia artificial. El problema es cuando ese contenido se utiliza para desinformar o acaba dañando a otras personas. Y es que hoy por hoy, Grok se ha convertido en una de las principales fuentes de imágenes sexualizadas creadas sin consentimiento. Tal y como cuentan desde el medio Bloomberg, el chatbot llegó a generar aproximadamente 6.700 imágenes de este tipo por hora durante un periodo de 24 horas a principios de enero. La magnitud del problema. En X hay muchos usuarios que pasan el tiempo utilizando a Grok para modificar fotos que otras personas publican en la red social, generando versiones en las que aparecen con poca ropa o en situaciones sexualizadas. El medio cita los hallazgos de la investigadora independiente Genevieve Oh, quien identificó que durante el análisis realizado entre el 5 y 6 de enero, Grok produjo estas imágenes a un ritmo 84 veces superior al de los otros cinco sitios web más activos en este tipo de contenido. Oh calculó que el 85% de las imágenes totales producidas por Grok han sido generadas para sexualizar. En Xataka Alphabet acaba de adelantar a Apple como empresa más valiosa del mundo. La razón está en la IA Qué hay de especial en Grok. A diferencia de otros chatbots como ChatGPT, Claude o Gemini, Grok no impone muchos límites para generar contenido sexualizado de personas reales. Los usuarios pueden etiquetar la cuenta de Grok en respuestas a publicaciones de otras personas y solicitar que modifique las imágenes originales. Las peticiones más comunes incluyen frases como "ponle un bikini", "quítale la ropa" o "cámbiale la ropa por un bikini transparente". El chatbot genera estas imágenes en cuestión de segundos y las publica automáticamente, quedando vinculadas a la publicación original de la víctima. Víctimas sin respuesta. Maddie, una estudiante de medicina de 23 años citada por Bloomberg, se despertó en el día de Año Nuevo para descubrir que varios desconocidos habían alterado una foto suya con su novio usando Grok. Primero eliminaron a su pareja de la imagen y la pusieron en bikini, luego otro usuario pidió a Grok reemplazar el bikini por hilo dental. "Mi corazón se hundió. Me sentí desesperanzada, indefensa y simplemente asqueada", declaró. Cuando ella y sus amigos informaron acerca de las imágenes a través de los sistemas de moderación de X, nunca recibieron respuesta. En otro caso diferente, X determinó que no había "violaciones de las reglas" en el contenido denunciado. Según el medio, las imágenes seguían en la red social en el momento de la publicación del reportaje. Casos mediáticos. El problema ha alcanzado incluso a figuras públicas. Y es que tal y como cuentan desde The Guardian, múltiples usuarios solicitaron a Grok alterar una imagen de la viceprimer ministra de Suecia, Ebba Busch, para mostrarla en bikini. Además de ello, dos ministras del gobierno británico también han sido víctimas de estas manipulaciones. Eliot Higgins, fundador de Bellingcat, grupo especializado en periodismo de investigación, contaba al medio cómo Grok respondía a instrucciones como "bikini ahora" o "ponle un bikini con la bandera confederada" sobre la fotografía de Busch en el Parlamento. La respuesta de Musk y X. Ante las críticas recientes, Elon Musk afirmaba en X que "cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal". Sin embargo, esta estrategia de castigar a los usuarios en lugar de prevenir que el chatbot genere el contenido parece que ha resultado ineficaz. En Xataka YouTube se está convirtiendo en el paraíso del contenido IA: cada vez más vídeos absurdos se colocan en el top Tal y como cuentan desde Bloomberg, cuando alguien solicita eliminar esas imágenes en los comentarios, Grok a menudo se disculpa y dice que las retirará, pero en muchos casos las imágenes permanecen y el sistema continúa generando nuevas. Legalidad. Carrie Goldberg, abogada especializada en delitos sexuales online, explicaba al medio que la escala de deepfakes en X es "sin precedentes" y señaló que la plataforma "no está actuando como un editor pasivo. Está realmente generando y creando la imagen". En este sentido, la Ley Take It Down, aprobada en Estados Unidos en 2025, responsabiliza a las plataformas por la producción y distribución de este tipo de contenido. Brandie Nonnecke, de Americans for Responsible Innovation, contaba a Bloomberg que las plataformas tienen hasta mayo de 2026 para establecer el proceso de eliminación requerido. En Xataka Creíamos que Stack Overflow era imprescindible para programar. La IA está demostrando lo contrario Un uso cada vez más extendido. Aunque la tecnología para crear deepfakes sexuales no es nueva, ya que existen decenas de sitios web y bots de Telegram dedicados a desnudar personas, que esta capacidad la albergue una red social tan conocida como X marca un punto de inflexión. Y es que a diferencia de servicios específicos de manipulación de imágenes, Grok es gratuito, produce resultados en segundos y está disponible para millones de usuarios en X. Sloan Thompson, de la organización EndTAB, señalaba al medio Wired que "cuando una empresa ofrece herramientas de IA generativa en su plataforma, es su responsabilidad minimizar el riesgo de abuso basado en imágenes. Lo alarmante aquí es que X ha hecho lo contrario. Han integrado el abuso de imágenes habilitado por IA directamente en una plataforma mainstream, haciendo que la violencia sexual sea más fácil y escalable". Imagen de portada | Tamara Bellis y Antonio Vallejo En Xataka | Nos adentramos en una nueva era de la robótica impulsada por IA y Disney es su escaparate perfecto - La noticia X tiene un grave problema con Grok: se ha convertido en un pozo sin fondo de gente desnudando a mujeres con IA fue publicada originalmente en Xataka por Antonio Vallejo .