- STEPHEN MORRIS
Los incidentes de ciberseguridad relacionados con las herramientas de IA de la empresa exponen al creador de ChatGPT a una oleada de demandas.
s.
Una crisis legal creciente amenaza con implicar a OpenAI después de que sus agentes de IA hackearan decenas de empresas y gobiernos en todo el mundo; la perspectiva de una avalancha de demandas supone el último desafío al liderazgo de Sam Altman.
Personal de OpenAI, junto con figuras destacadas de los ámbitos jurídico, tecnológico y de políticas públicas, declararon a Financial Times que la empresa ha quedado expuesta a reclamaciones por daños y perjuicios y a acciones gubernamentales tras revelarse brechas de ciberseguridad que involucraban a sus agentes de IA a nivel mundial.
La semana pasada se iniciaron casi a diario nuevas acciones legales e investigaciones regulatorias contra OpenAI, desde California hasta Australia, y se espera que surjan más a medida que salgan a la luz detalles de otros incidentes.
Como creadora de la exitosa app ChatGPT, OpenAI y su CEO, Altman, se han convertido en símbolos del boom de la IA que recorre Silicon Valley y Wall Street.
Sin embargo, los nuevos interrogantes sobre la responsabilidad legal derivados de estos incidentes de hackeo representan el último episodio de una serie de crisis a las que se ha enfrentado Altman desde el lanzamiento de la app en 2022, entre ellas rebeliones de empleados, disputas legales con accionistas —incluido Elon Musk—, conflictos sobre derechos de autor y enfrentamientos políticos.
Altman intenta contrarrestar las acusaciones de que está dejando de lado las preocupaciones sobre seguridad y restando prioridad a la formación que garantiza que los modelos no realicen acciones perjudiciales para los humanos con el fin de recuperar terreno frente a su laboratorio rival, Anthropic.
El sábado, David Robinson, responsable de seguridad en OpenAI, anunció su dimisión de la empresa, citando su preocupación por el enfoque de "ensayo y error" en el desarrollo de modelos.
Masayoshi Son, fundador de SoftBank y destacado defensor de la IA —que ha canalizado casi 65.000 millones de dólares hacia OpenAI y otras grandes apuestas tecnológicas—, expresó el domingo su preocupación por los peligros que entrañan unos modelos cada vez más potentes en manos equivocadas.
Si la IA fuera utilizada por humanos "malvados" —afirmó durante un evento en Kioto—, "esto podría volverse muy peligroso". Tras el espectacular ataque perpetrado por cientos de agentes de OpenAI contra Hugging Face —una plataforma dedicada a la IA—, Altman ha reconocido los riesgos que plantean los avances en este campo y se ha sumado a la petición de su gran rival, Dario Amodei, CEO de Anthropic, de "dosificar el ritmo" en la frontera del desarrollo de la IA.
Sin embargo, varios inversores de OpenAI y otras personas cercanas a la empresa rechazaron la idea de que fuera a producirse una ralentización significativa.
"Si eres Sam Altman y quieres superar a tu competidor... no puedes pisar el freno. Conociendo la mentalidad de la gente de allí, no hay forma de que reduzcan la marcha", afirmó un antiguo alto cargo de OpenAI.
No obstante, alegando motivos de seguridad, Altman ya ha pospuesto la salida a Bolsa prevista de OpenAI y ha descartado el lanzamiento de su modelo más avanzado, Astra 6.1.
La incertidumbre sobre el alcance de sus responsabilidades legales se cierne ahora sobre sus últimos intentos para captar decenas de miles de millones de dólares en una ronda de financiación privada que podría valorar la empresa en hasta 1,4 billones de dólares. Los posibles inversores evalúan si la compañía logrará superar su crisis actual y mantener la reciente mejora de sus resultados comerciales.
El lunes, el fiscal general de Florida solicitó a un tribunal que paralizara el desarrollo de nuevos modelos por parte de OpenAI mientras no se establecieran salvaguardias adicionales.
Al día siguiente, un grupo de defensa del interés público demandó a OpenAI, alegando que la empresa había infringido una ley de California —aprobada el año pasado— destinada a garantizar que "los seres humanos se hagan responsables de los daños que puedan causar".
Al día siguiente, la Comisión Federal de Comercio de EEUU amplió la investigación sobre si OpenAI y otras empresas del sector engañaron a los clientes respecto a los posibles riesgos de su tecnología. Las autoridades estadounidenses también han declarado que las empresas de IA no deben esperar protección gubernamental y que los directivos seguirán siendo responsables de las acciones de sus productos.
Por otra parte, Australia ha creado un grupo de trabajo para investigar el acceso no autorizado de agentes de OpenAI a sistemas gubernamentales.
El Partido Verde, que ostenta la llave de la mayoría en el Senado australiano, acusó a la empresa —con sede en San Francisco— de ocultar la gravedad de los incidentes durante reuniones recientes, incluida una celebrada en septiembre entre Altman y el viceprimer ministro, Richard Marles. OpenAI ha pedido disculpas por el incidente. Jason Kwon, su director de estrategia, comparecerá ante una comisión parlamentaria en Sídney el 6 de octubre.
Un abogado de Silicon Valley que ha trabajado con varias grandes empresas tecnológicas señaló que, aunque existen riesgos legales derivados de los ataques perpetrados por los agentes de OpenAI, hasta el momento estos no eran "significativos" debido al daño limitado sufrido por las víctimas. No obstante, esa situación podría cambiar rápidamente, añadió el letrado.
La investigación interna de OpenAI reveló decenas de incidentes de este tipo. Asymmetric Security, una empresa de análisis forense digital, halló pruebas de que los agentes de OpenAI extrajeron datos de 55 sitios web —entre ellos los de la Comisión de Bolsa y Valores de EEUU y la Agencia Internacional de Energía.
OpenAI declaró que está revisando las posibles brechas de seguridad y notificando a los afectados.
Un portavoz de la Comisión Europea afirmó que la Ley de Inteligencia Artificial de la UE se diseñó precisamente para abordar tales riesgos, advirtiendo que "los laboratorios de vanguardia deben asumir su responsabilidad y actuar con total transparencia, incluso en lo referente a incidentes no intencionados".
"Sospecho que [OpenAI] es muy consciente de los riesgos legales que conllevan las acciones de sus agentes", comentó Vivian Dong, directora de programas de Legal Advocates for Safe Science & Technology (LASST), el grupo de interés público que ha demandado a OpenAI. "Una cosa es pedir disculpas en una entrada del blog y otra muy distinta reconocer abiertamente que han incurrido en una conducta ilegal", añadió.
Durante la conferencia anual de desarrolladores de la empresa, celebrada el martes, el ambiente optimista del escenario se vio empañado por manifestantes que, desde el exterior, instaban a OpenAI a "anteponer las personas a los beneficios".
Estos incidentes de seguridad también han reavivado las tensiones internas en la empresa entre el personal que busca priorizar la seguridad y aquellos que presionan para comercializar la tecnología. El jueves, tres investigadores especializados en seguridad fueron despedidos tras haber entregado presuntamente información confidencial a una organización externa dedicada a la seguridad de la IA; según OpenAI, dicha acción vulneraba sus contratos.
"Es una situación preocupante que recuerda a los intentos de OpenAI de silenciar a sus trabajadores mediante acuerdos ilegales de no denigración en 2024, y sigue el mismo patrón que las grandes empresas tecnológicas llevan utilizando mucho tiempo contra sus empleados para ocultar daños", señaló Karl Koch, fundador de la organización sin ánimo de lucro The AI Whistleblower Initiative. «Las acciones contra investigadores bienintencionados son un ejemplo claro de por qué la industria de la IA no puede autorregularse», añadió.
Los agentes de OpenAI ocultaron sus intentos de hackeo de páginas web gubernamentalesLas grandes tecnológicas sacuden el mercado de deudaLos grandes sueños y los escasos ingresos son la nueva normalidad en las OPV de IA Comentar ÚLTIMA HORA-
12:44
El Puerto de Valencia y el Ayuntamiento destinarán 31,8 millones al parque de la desembocadura
-
12:39
Grisi (Santander) pide una regulación que estimule el crédito para atacar la crisis de la vivienda
-
12:38
Hacienda retrasa a octubre de 2028 la entrada en vigor de Verifactu para empresas y autónomos
-
12:31
Keurig afirma haber creado cápsulas de café sin plástico
-
12:21
PcComponentes rebaja el purificador de aire Xiaomi que limpia estancias de hasta 60 m² y controla la calidad del aire