Desde que el pánico existencial a la IA se hizo mainstream —como proclamó el reconocido periodista James O’Donnell en su última newsletter—, la actualidad ha estado plagada de debates sobre el “apocalipsis de la IA”. ¿Es un riesgo real o una cortina de humo para mejorar la reputación de las empresas? Posiblemente, las dos.
ELLIS Alicante, durante la sesión informativa que organizó el SMC España el pasado 18 de septiembre para matizar el tono apocalíptico que domina cada vez más el relato sobre la IA.“Me parece inaceptable que llamemos ‘incidente’ a que el software de OpenAI penetre ilegalmente en los servidores de Hugging Face, acceda o incluso modifique datos ilegalmente”, insistió la investigadora, que también es miembro del panel experto internacional para la seguridad avanzada de la IA. “Eso no es un ‘incidente’”, aclaró, ”es un cibercrimen”.
El matiz no es inocuo. Como señaló Ramón López de Mántaras, fundador del Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC) y otro de los expertos de la sesión, en el contenido relacionado con la IA son habituales las expresiones que desplazan la responsabilidad de las empresas a la máquina.
Por ejemplo: decir que la IA “se reveló”, “se escapó" o “decidió atacar”, pueden ser atajos descriptivos para explicar un proceso complejo a un público menos técnico, como defiende Senén Barro, director de CiTIUS y otro de los participantes del briefing. Pero cuando estas metáforas se utilizan de manera sistemática como sinónimos, construyen un discurso que responsabiliza y atribuye características humanas a la tecnología, reduciendo a meros espectadores a quienes diseñaron, configuraron y autorizaron esos experimentos de riesgo.
ciberataque de Open AI a Hugging Face, la advertencia de Jacob Coxon (exempleado de Anthropic) de que la IA podría provocar la extinción de la humanidad “antes del final de la década”, o el llamamiento de Dario Amodei a ”desacelerar" el desarrollo de la IA ante la creciente pérdida de control y los casos de uso delictivo para ciberataques y bioterrrorismo.este pódcast de eldiario.es.“Hoy por hoy, no tiene ningún fundamento decir que estamos a las puertas de un riesgo existencial”, afirmó Senén Barro durante la sesión del SMC. “Dicho esto, la IA ha llegado a un nivel de competencia y autonomía que claro que nos tenemos que preocupar por unos riesgos que tienen que ver con la ciberseguridad y la falta de un marco de control”.
“Es como si las empresas de automoción estuvieran hoy construyendo coches donde solo les preocupa aumentar la potencia del motor y desatienden todo lo demás, sin mejorar las carreteras, la señalización, la seguridad vial y la educación del conductor y los peatones. Como resultado, los coches cada vez van más deprisa pero no hay una protección necesaria alrededor”, aclaró el catedrático de física de la Universidad de Santiago de Compostela.
evidencia empírica en neurociencia cognitiva e interacción persona-máquina. Algo que, como alerta Barro, podría ser especialmente grave en niños y jóvenes que todavía están madurando sus capacidades y habilidades cognitivas.de manera coordinada, una estrategia que espera crear el espacio necesario para mejorar la seguridad sin perder la carrera contra los modelos de otras potencias.Sin embargo, no está claro qué medidas supondría este tipo de estrategia. “Frenar, frenar… ¿qué significa? ¿teclear más despacio, echar a la mitad de la gente?”, criticó Oliver durante la sesión. “Ni siquiera está bien definido el término, y es evidente que con los modelos que existen ahora mismo tienen las capacidades ya para llevar a cabo muchos de los comportamientos emergentes que se han observado y pueden tener consecuencias negativas no deseadas.”
haya una regulación y se multe o denuncie en juicios a las empresas tecnológicas, para que reconozcan que sus algoritmos estaban diseñados para ser adictivos “desde el día cero”.“No podemos esperar otros 20 años o 10 años a que haya un impacto social terrible para tomar algún tipo de acción”, reivindicó la experta en seguridad de modelos avanzados de IA. “Como sociedad tenemos que sentirnos más empoderados”.
Sin embargo, la acción social tiene también un doble filo en el relato sobre la IA. Por ejemplo, son habituales las expresiones genéricas que sugieren que “se nos va de las manos la IA”. “¿De qué manos?”, cuestionó Oliver durante la sesión. “Es una manera de transferir la responsabilidad a la sociedad cuando está claro que la sociedad es la víctima”. Barró puntualizó: “Se nos están yendo de las manos las compañías que lideran la IA, ese es el gran problema”.
Un problema muy antiguo
“Todo de lo que hemos estado hablando está ya regulado”, aventuró Oliver durante el briefing. “Es una ilegalidad penetrar en los servidores de otra empresa, es decir, no se necesita un reglamento de IA para eso, ya es un crimen, y no se puede hacer”. El reto, según la experta en regulación de la IA, está en la detección, la supervisión y la asunción de responsabilidades.
Para entenderlo mejor, la investigadora recomienda mirar a otras industrias de riesgo como la energía nuclear, la aviación o la industria farmacéutica.
a sanciones previas a las plataformas tecnológicas, ”sino con la paralización de la flota y la responsabilidad penal para los ejecutivos”.En este sentido, la experta en regulación y seguridad de los modelos avanzados de IA considera que se debe superar la “parálisis sancionadora actual”. Empezando por la implementación estricta del Reglamento de IA de la Unión Europea (EU AI Act), que ya incluye prohibiciones para usos de riesgo inaceptable y exige auditorías de impacto y explicabilidad para sistemas de alto riesgo.
También considera que algunos usos, como el despliegue de agentes de IA autónomos en experimentos, deberían tipificarse como actividades de alto riesgo de manera explícita, para que requieran seguro obligatorio y responsabilidad penal y civil en caso de daños a la sociedad, entre otras consecuencias regulatorias.
Agréganos a tus Fuentes Preferidas en Google para seguir nuestro contenidoArrowAdemás, defiende que se haga evaluaciones de impacto algorítmico obligatorias antes de cualquier comercialización, que la comunidad científica pueda auditar los modelos, como ha pedido también la ONU, y que se sigan los principios de desarrollo FATEN, como proponen en ELLIS Alicante, la fundación para la investigación de la Inteligencia Artificial centrada en la humanidad que dirige.
“La tecnología en sí no es ni buena ni mala. Su impacto depende enteramente de sus usos e implementaciones”, señala Oliver a WIRED. “La dependencia estratégica de un país en sectores críticos no debe ser un cheque en blanco para las empresas, del mismo modo que un país no permite que una farmacéutica distribuya un fármaco no probado o defectuoso por el hecho de ser el único proveedor”.