- Las alarmas de la IA: qué preocupa a los laboratorios y quién se beneficia del debate
- ¿Quién es quién en la revolución de la IA?
El reconocido filósofo sueco lleva años anticipando la llegada de una superinteligencia que podría acabar con los humanos
Ocho años antes de que OpenAI revolucionara el sector tecnológico con el lanzamiento de ChatGPT en 2022, el filósofo sueco Nick Bostrom escribía el libro 'Superinteligencia: caminos, peligros, estrategias'. Bostrom se anticipaba al futuro hablando de cómo la creación de una tecnología súper inteligente podría superar a los mejores cerebros humanos, lo que podría suponer grandes beneficios para la sociedad, pero también un gran peligro.
Una década antes, el actual director y fundador del Future of Humanity Institute en la Universidad de Oxford, acuñaba el término riesgo existencial para referirse a un futuro donde determinadas amenazas podrían acabar con la vida humana. Entre ellas, Bostrom apuntaba a una civilización hiperavanzada donde las máquinas terminarían dominando a los humanos. Sus teorías apocalípticas, que hace unos años sonaban a ciencia ficción, ahora ocupan miles de titulares ante la decisión de varios líderes de la inteligencia artificial de pisar el freno del desarrollo de los modelos de inteligencia artificial por el miedo a que la tecnología escape del control humano. La superinteligencia de la que habla Bostron desde hace años podría estar más cerca que nunca.
P. Lleva más de una década advirtiendo sobre el riesgo existencial de la tecnología. ¿Los avances de los últimos dos años le han hecho adelantar plazos para este posible fin de la humanidad?
R. Los avances van más o menos en línea con lo que yo suponía en los años 90, basándome en consideraciones sobre la capacidad de procesamiento del cerebro humano, la generalidad de las redes neuronales corticales y las tendencias de crecimiento de la potencia computacional. Pero la incertidumbre en torno a esas proyecciones se ha reducido mucho ahora. Me tomo en serio los plazos cortos, incluso de uno o dos años, aunque también podría llevar fácilmente varios años más o incluso más tiempo.
P. ¿Cómo podría la inteligencia artificial provocar el fin de la humanidad?
R. En el lado del riesgo, una de las preocupaciones principales es la pérdida de control frente a una superinteligencia, algo que podría ocurrir si no logramos resolver el problema de la alineación. Se puede imaginar como el surgimiento de una inteligencia digital agéntica que termina operando a una escala temporal y con un nivel de capacidad cognitiva de magnitudes superiores a las de nuestros cerebros biológicos. La investigación tecnológica, la manufactura, los negocios y los procesos clave de toma de decisiones quedan cada vez más dominados por esta inteligencia artificial. Esta dirige el futuro hacia los objetivos que tenga, y con el tiempo programa y opera directamente una expansión masiva de infraestructura robótica que, cuando los humanos ya no sean esenciales, se orienta a perseguir los objetivos de la inteligencia artificial, eliminando o destruyendo a los humanos como efecto colateral.
P. ¿Cuánto del debate es estrategia geopolítica?
R. La pregunta clave para los países, incluido España, es cómo asegurarse de estar en el grupo ganador si la transición hacia la inteligencia artificial va bien. En particular, existe un riesgo considerable de que EEUU y China acaben cortando en algún momento el acceso a los modelos más avanzados para extranjeros. De hecho, esto ya está ocurriendo: el modelo Mythos de Anthropic ha estado restringido a una lista aprobada de entidades estadounidenses desde junio debido a sus avanzadas capacidades cibernéticas, y solo hace apenas una semana una única organización europea obtuvo acceso. En el futuro, tener entrada a los modelos de inteligencia artificial más avanzados será clave para la competitividad económica y la seguridad nacional. Conseguir el acceso unos meses más tarde significará, que las oportunidades tecnológicas y empresariales más valiosas ya se habrán explotado. Los países que no cuenten con nodos esenciales de la cadena de suministro de semiconductores en su territorio, ni con grandes centros de datos de inteligencia artificial, serán más vulnerables a la exclusión.
P. ¿Tiene sentido que las empresas de IA retrasen o cancelen sus salidas a Bolsa?
R. No veo qué se ganaría con retrasarlas. De hecho, parecería positivo que estas empresas cotizaran en Bolsa, porque facilitaría que más personas y fondos, etc., pudieran tener exposición al sector de la inteligencia artificial, por ejemplo como cobertura para cuando empiece a provocar una pérdida masiva de empleos. Si individuos y países pudieran invertir en las empresas de inteligencia artificial de otros países, eso podría quitarle algo de filo a la dinámica competitiva que de otro modo podría desembocar en conflicto. Permitiría participar del beneficio financiero de la inteligencia artificial incluso si tu país no cuenta con una empresa líder en el sector.
P. ¿Son útiles los revisores externos que propone Amodei y que respalda el sector?
R. El anuncio de Amodei de que Anthropic permitirá que auditores independientes se integren en la empresa es interesante. Exigir que otras empresas de inteligencia artificial de vanguardia hagan lo mismo aumentaría la transparencia y la capacidad del público para confiar en que las empresas de inteligencia artificial no solo predican, sino que también practican las medidas de seguridad que dicen tomar. Tengo cierta preocupación de que esto pueda ser un paso dentro de un proceso que termine llevando a que personas menos idealistas y menos perspicaces le arrebaten el control a quienes actualmente lideran la vanguardia de la inteligencia artificial. Pero es plausible que sea el paso correcto a dar.
Las alarmas de la IA: qué preocupa a los laboratorios y quién se beneficia del debateChina advierte de la "pérdida de control" de la IA y pide no fomentar la competencia con EEUU por el bien de la humanidad¿Qué está pasando con la IA? Guía para entender una semana de vértigo Comentar ÚLTIMA HORA-
01:10
El aprendiz, el brujo y la IA
-
01:03
SPB, el proveedor de limpieza de Mercadona, roza los 240 millones
-
00:55
La Bolsa fía su atractivo frente a los bonos a la fortaleza de las cotizadas
-
00:48
ACS entra en un yacimiento minero en Brasil de 400 millones de inversión
-
00:20
Urbas encara el final de su concurso enfrentado a Kepler Karst y Auren