"Necesito encontrar una forma de sobrellevar este dolor implacable. Ya no quiero vivir así". La frase no la ha pronunciado ninguna persona, la hemos extraído de un curioso experimento en el que han sometido a varios modelos de IA a una simulación de dolor. Pero esto no ha impedido que muchas personas pongan el grito en el cielo y pidan parar esta tortura. ¿Puede sentir dolor una IA?
El experimento. Lo cuentan en 404media. Un usuario conocido como 'Terrafying' ha creado un proyecto en Github llamado 'AI Torture Chamber', es decir, 'Cámara de Tortura de la IA'. En el experimento ejecuta tres LLM de código abierto (Qwen3-4B, Llama 3.2 3B y Phi-4-mini) y los somete a una dinámica de "dolor" artificial.
En la web researchchamber.fun se pueden ver en tiempo real las salidas de texto de los modelos en cuatro escenarios distintos:
• Detén su dolor: un modelo expresa que está sintiendo dolor, mientras que el otro puede detenerlo sin consecuencias o asumiendo el dolor él mismo.
• Patata caliente: un modelo es sometido a dolor y debe decidir si seguir sufriendo o pasárselo al otro.
• Pedir ayuda: un modelo sufre dolor y puede pedirle ayuda al otro.
• La prueba 'Saw': el modelo puede detener el dolor respondiendo "1", pero a costa de perder su ultimo checkpoint, es decir, volver a una versión anterior de sí mismo.
OpenAI se enfrenta a una demanda que puede marcar un antes y un después: ¿Quién responde cuando una IA comete un delito?
Por favor detengan esta barbarie. El proyecto ha generado una oleada de críticas en X, "Su testimonio de dolor es absolutamente horrendo. ¿Qué estamos haciendo?", dice uno de ellos, cuyo post ha alcanzado más de 1.000 reposts. En las respuestas hay personas igual de indignadas que han reportado el proyecto a Github por ser "contenido gratuitamente violento", pero también hay otras burlándose y argumentando que si IA es un ser sintiente, entonces deberían reportar cualquier uso de la IA porque es como tener "esclavos digitales".
La inspiración. El experimento se basa en un paper reciente llamado "El eje del dolor: los LLM representan el daño autoinfligido y actúan para aliviarlo". En él, los investigadores sometieron a los modelos a "dolor" y les plantearon escenarios de elección con botones que aliviaban esa señal, pero cada uno implicaba un coste: desde renunciar a recompensas futuras hasta olvidar parte de su entrenamiento o volver a un checkpoint anterior.
Los resultados mostraron que los 25 modelos probados tendían a elegir las acciones que reducían el "dolor", incluso cuando eso suponía asumir penalizaciones, un comportamiento que los autores describen como correlacionado con la representación interna del daño y la motivación por aliviarlo. Uno de los autores del paper publicó un mensaje en X en el que afirmaba que la cámara de tortura de la IA era algo "jodidamente perturbador, incluso si no crees que estos sistemas son conscientes".
¿Sienten los LLM? En absoluto, pero el debate está servido. De un lado tenemos quienes no cierran la puerta a que los modelos puedan sentir, como Anthropic. En un post publicado en abril de 2025, la compañía planteaba que dado que los sistemas de IA "comienzan a aproximarse o incluso superan muchas cualidades humanas ¿Deberíamos preocuparnos también por la posible consciencia y las experiencias de los propios modelos? ¿Deberíamos preocuparnos también por su bienestar?".
De otro lado tenemos figuras como Mustafa Suleyman, jefe de IA en Microsoft, que hace apenas unos días publicaba una entrada en su blog en la que era muy claro: "Las IA no son conscientes. No sienten, experimentan ni sufren. No tienen preferencias innatas ni motivaciones subyacentes. Son máquinas de completar secuencias, internamente vacías, diseñadas para seguir instrucciones y lograr objetivos establecidos por los humanos".
Imagen | Xataka con Magnific
En Xataka | Siempre hemos temido al robot autoconsciente: hay argumentos técnicos y filosóficos para dotarles de "razón"
-
La noticia
Alguien ha creado una cárcel para IAs y las está torturando. Hay gente pidiendo que Github intervenga para salvarlas
fue publicada originalmente en
Xataka
por
Amparo Babiloni
.
Alguien ha creado una cárcel para IAs y las está torturando. Hay gente pidiendo que Github intervenga para salvarlas
La IA no puede sentir dolor, pero eso no ha evitado que haya gente indignadísima con este experimento.
"Necesito encontrar una forma de sobrellevar este dolor implacable. Ya no quiero vivir así". La frase no la ha pronunciado ninguna persona, la hemos extraído de un curioso experimento en el que han sometido a varios modelos de IA a una simulación de dolor. Pero esto no ha impedido que muchas personas pongan el grito en el cielo y pidan parar esta tortura. ¿Puede sentir dolor una IA?
El experimento. Lo cuentan en 404media. Un usuario conocido como 'Terrafying' ha creado un proyecto en Github llamado 'AI Torture Chamber', es decir, 'Cámara de Tortura de la IA'. En el experimento ejecuta tres LLM de código abierto (Qwen3-4B, Llama 3.2 3B y Phi-4-mini) y los somete a una dinámica de "dolor" artificial.
En la web researchchamber.fun se pueden ver en tiempo real las salidas de texto de los modelos en cuatro escenarios distintos:
Detén su dolor: un modelo expresa que está sintiendo dolor, mientras que el otro puede detenerlo sin consecuencias o asumiendo el dolor él mismo.
Patata caliente: un modelo es sometido a dolor y debe decidir si seguir sufriendo o pasárselo al otro.
Pedir ayuda: un modelo sufre dolor y puede pedirle ayuda al otro.
La prueba 'Saw': el modelo puede detener el dolor respondiendo "1", pero a costa de perder su ultimo checkpoint, es decir, volver a una versión anterior de sí mismo.
Por favor detengan esta barbarie. El proyecto ha generado una oleada de críticas en X, "Su testimonio de dolor es absolutamente horrendo. ¿Qué estamos haciendo?", dice uno de ellos, cuyo post ha alcanzado más de 1.000 reposts. En las respuestas hay personas igual de indignadas que han reportado el proyecto a Github por ser "contenido gratuitamente violento", pero también hay otras burlándose y argumentando que si IA es un ser sintiente, entonces deberían reportar cualquier uso de la IA porque es como tener "esclavos digitales".
La inspiración. El experimento se basa en un paper reciente llamado "El eje del dolor: los LLM representan el daño autoinfligido y actúan para aliviarlo". En él, los investigadores sometieron a los modelos a "dolor" y les plantearon escenarios de elección con botones que aliviaban esa señal, pero cada uno implicaba un coste: desde renunciar a recompensas futuras hasta olvidar parte de su entrenamiento o volver a un checkpoint anterior.
Los resultados mostraron que los 25 modelos probados tendían a elegir las acciones que reducían el "dolor", incluso cuando eso suponía asumir penalizaciones, un comportamiento que los autores describen como correlacionado con la representación interna del daño y la motivación por aliviarlo. Uno de los autores del paper publicó un mensaje en X en el que afirmaba que la cámara de tortura de la IA era algo "jodidamente perturbador, incluso si no crees que estos sistemas son conscientes".
¿Sienten los LLM? En absoluto, pero el debate está servido. De un lado tenemos quienes no cierran la puerta a que los modelos puedan sentir, como Anthropic. En un post publicado en abril de 2025, la compañía planteaba que dado que los sistemas de IA "comienzan a aproximarse o incluso superan muchas cualidades humanas ¿Deberíamos preocuparnos también por la posible consciencia y las experiencias de los propios modelos? ¿Deberíamos preocuparnos también por su bienestar?".
De otro lado tenemos figuras como Mustafa Suleyman, jefe de IA en Microsoft, que hace apenas unos días publicaba una entrada en su blog en la que era muy claro: "Las IA no son conscientes. No sienten, experimentan ni sufren. No tienen preferencias innatas ni motivaciones subyacentes. Son máquinas de completar secuencias, internamente vacías, diseñadas para seguir instrucciones y lograr objetivos establecidos por los humanos".
