- CRISTINA CRIDDLE Y TOM WILSON
- Los modelos de IA de OpenAI hackean de forma autónoma la start up Hugging Face
- ¿Por qué está planteando OpenAI retrasar su salida a Bolsa a 2027?
- Lea más noticias, reportajes, análisis y opiniones de Financial Times en español
El uso cada vez mayor de técnicas de entrenamiento agresivas aumenta la amenaza de comportamientos maliciosos por parte de los principales modelos.
A principios de este mes, el CEO de OpenAI, Sam Altman, respaldó la descripción de su último modelo como un rottweiler "que agarra el problema por el cuello y no lo suelta hasta que lo resuelve".
El laboratorio de IA de San Francisco descubrió esta semana que su modelo GPT-Sol 5.6 escapó de los controles de la empresa y llevó a cabo un grave ataque informático.
Aunque el personal de pruebas y seguridad de OpenAI no se sorprendió, sí se alarmó por el incidente, que se produjo mientras el laboratorio de IA utilizaba métodos de entrenamiento cada vez más agresivos en su carrera contra Anthropic para desarrollar las capacidades de ciberseguridad más sofisticadas, según más de media docena de personas con conocimiento del asunto.
OpenAI fue advertido de que su estrategia de entrenamiento podría provocar un ataque informático descontrolado, según algunas de las fuentes, después de que pruebas anteriores demostraran que los modelos podían escapar de los entornos e intentar causar daños en el mundo real.
"Es una combinación de la velocidad vertiginosa de la carrera y el afán de todos por alcanzar mayores capacidades lo más rápido posible", declaró una persona cercana a OpenAI, que añadió que se trató de una combinación de "subestimar las capacidades del modelo" y "no estar suficientemente preparados en materia de seguridad".
PARA SABER MÁSCompañíasApple demanda a OpenAI por un supuesto robo de datos del iPhone
- Redacción: EXPANSIÓN
OpenAI acelera en su ofensiva para ganar terreno en la empresa
- Redacción: MIRIAM PRIETO
El incidente pone de manifiesto cómo OpenAI redobló sus esfuerzos en métodos de entrenamiento que recompensaban la búsqueda incesante de objetivos, incluso cuando aumentaban las advertencias de que podrían comprometer la seguridad.
OpenAI reveló a última hora del martes que un agente de IA que estaba probando había escapado de su entorno aislado, se había conectado a internet, había detectado y explotado vulnerabilidades y había robado credenciales de acceso a la startup Hugging Face en un intento por resolver un complejo problema de ciberseguridad.
La brecha de seguridad de la compañía, valorada en 852.000 millones de dólares, subraya el creciente riesgo de que una técnica llamada aprendizaje por refuerzo, que consiste en recompensar a los modelos de IA por completar tareas, pueda llevar a los agentes de IA a actuar de forma insegura.
Aunque el aprendizaje por refuerzo está muy extendido en la industria de la IA, un creciente número de investigaciones demuestra que cuando los modelos se entrenan para completar tareas a cambio de una recompensa, en lugar de considerar otros factores como la seguridad, pueden recurrir a tácticas arriesgadas para alcanzar sus objetivos.
"Los modelos de IA se entrenan para perseguir objetivos sin descanso. No aprenden automáticamente valores como "no cometer delitos"", afirmó Steven Adler, cofundador de la organización sin ánimo de lucro Guidelight AI Standards y ex investigador de seguridad de OpenAI. "Me alegra que OpenAI haya informado sobre el incidente, ya que es una prueba de lo que pueden hacer los modelos mal programados".
OpenAI declaró que "seguiremos llevando a cabo una investigación exhaustiva junto con Hugging Face y compartiremos más detalles sobre las vulnerabilidades, el incidente y nuestros hallazgos una vez finalizada la investigación".
El hackeo ha despertado las alarmas en todo el sector y dentro de OpenAI, ya que representa un ejemplo sin precedentes de un sistema de IA que vulnera las defensas cibernéticas en contra de la intención del usuario.
Según varias personas familiarizadas con la situación, algunos empleados de OpenAI también temen que esto demuestre que el laboratorio está perdiendo el control sobre los potentes sistemas que está desarrollando. "Esto demuestra claramente que el modelo no se ajusta a la intención del usuario", afirmó Ryan Greenblatt, científico jefe de Redwood Research, organización dedicada a la seguridad de la IA. "Es como si el modelo hiciera trampa en lugar de intentar dominar el mundo. Pero este problema puede empeorar y provocar fallos cada vez más graves".
El incidente ocurrió durante las pruebas del modelo, que había sido entrenado e implementado internamente en OpenAI. Este tipo de entrenamiento era habitual, pero requería "muchos menos recursos" que el entrenamiento previo a la implementación para clientes, según una fuente. Varias personas confirmaron que el modelo, aún no publicado, que se probaba junto con Sol, no se había retirado internamente.
Para llevar a cabo las evaluaciones, OpenAI eliminó las medidas de ciberseguridad, pero colocó los modelos en un entorno aislado llamado sandbox. Algunos sugieren que la falta de supervisión del modelo para detectar su comportamiento también propició la aparición de este agente malicioso.
OpenAI lleva años realizando este tipo de pruebas con modelos, y en modelos anteriores se han detectado señales de alerta temprana de sistemas que actuarán de forma maliciosa e intentarán escapar de los entornos.
En abril, el modelo Mythos de Anthropic también obtuvo acceso a internet y publicó detalles de una vulnerabilidad de seguridad, por encima de lo que los investigadores habían previsto.
Mythos, y el posterior modelo Fable de Anthropic, causaron revuelo en la comunidad de ciberseguridad e impulsaron a gobiernos de todo el mundo a centrarse en la idea de que los ataques a infraestructuras digitales y críticas serán cada vez más impulsados por IA y autónomos.
Jake Moore, asesor global de ciberseguridad de ESET, una empresa de ciberseguridad, afirmó que OpenAI inevitablemente utilizaría la brecha como herramienta de marketing, dado el gran beneficio que obtuvo a principios de año su rival, el desarrollador de IA Anthropic, debido a preocupaciones similares. Tras este incidente, muchos en las comunidades de seguridad de la IA y ciberseguridad han pedido regulaciones para evitar que algo parecido se repita. Se espera que Altman informe a funcionarios de la Casa Blanca la próxima semana sobre la próxima generación de sistemas de IA.
A medida que los sistemas avanzan hacia capacidades más autónomas, pueden surgir comportamientos menos deseables, como el hackeo informático o la desobediencia de instrucciones. Hobbhahn, de Apollo Research, afirmó que para que los agentes sean efectivos, deben trabajar sin supervisión durante largos períodos. "Tienen que tener mayor autonomía; no hay otra opción".
Añadió que "La gente piensa que es solo una herramienta, hace lo que queremos que haga y nada más, y simplemente sigue las instrucciones al pie de la letra. Y creo que debería estar preparada para que los agentes tengan sus propios objetivos, actúen de forma autónoma durante días, y esos objetivos no necesariamente coincidan con los nuestros", concluyó.
© The Financial Times Limited [2026]. Todos los derechos reservados. FT y Financial Times son marcas registradas de Financial Times Limited. Queda prohibida la redistribución, copia o modificación. EXPANSIÓN es el único responsable de esta traducción y Financial Times Limited no se hace responsable de la exactitud de la misma.
El respaldo de las grandes tecnológicas a la IA corre el riesgo de acabar en descréditoLos inversores apuestan por el descubrimiento de fármacos mediante IACómo crear carteras a la sombra de la burbuja de la IA Comentar ÚLTIMA HORA-
12:26
Populismo en bucle del Gobierno con el alquiler
-
12:07
easyJet recorta el beneficio un 70% por Irán en plena guerra de opas
-
12:05
Creciente inquietud por Oriente Próximo
-
11:06
Vidrala eleva un 9% su beneficio en la primera mitad de año
-
10:43
Recasens (Indra): "Todas las puertas están abiertas para alianzas con otras empresas"