- TOM BURNS MARAÑÓN
El rápido desarrollo de la inteligencia artificial inquieta a los propios 'techbros' de Silicon Valley. El verdadero problema es que no se sabe cómo gestionar algo que lo mismo puede ayudar a dar con la cura del cáncer que crear una pandemia.
La historia de El Aprendiz de Brujo forma parte de los pilares fundamentales que soportan nuestra cultura. Una de las primeras versiones del cuento data del siglo II. Se trata de una de esas lecciones, transmitidas oralmente, en textos y de la manera más variada, que indican claramente la línea divisoria entre lo que es y lo que no es un comportamiento adecuado. ¿Tiene vigencia hoy cuando los modales son otros? Que la tuvo es indiscutible. Que la historia se ha quedado obsoleta y que su mensaje es hoy indescifrable puede que también lo sea.
En 1797 ese hijo de la Ilustración que fue Goethe coreó la historia del mago y del principiante rebelde en una balada, Der Zauberlehrling, que los niños memorizaban en la escuela y un siglo después el compositor francés Paul Dukas se basó en lo que escribió el insigne alemán para crear un poema sinfónico que obtuvo mucho éxito.
En 1940, el año más duro de la Segunda Guerra Mundial, Walt Disney convirtió El Aprendiz de Brujo, amenizada por la música del impresionista francés, en el segmento más logrado de su inolvidable película animada Fantasía.Mickey Mouse, naturalmente, era el protagonista en el papel de revoltoso pícaro e inexperto aprendiz.
La historia, entonces tan diáfana, de lo que ocurre cuando el mago se ausenta y su joven ayudante se queda solo entre las pipetas y los recipientes que se amontonaban en su laboratorio se ha vuelto hoy confusa. Cuando la inteligencia artificial ha pasado a ser el tema existencial de nuestro tiempo, ¿quién es el brujo y quién es el aprendiz?
Como se sabe, El Aprendiz de Brujo es un relato clásico sobre la soberbia, la falta de experiencia y las consecuencias de arramplar con un poder que no se puede controlar. Esta lectura, centrada en el aprendiz, no está tan clara en los tiempos que corren. No se extrae, forzosamente, la debida moraleja.
En la historia que se ha ido transmitiendo de padres a hijos y de generación en generación el aprendiz aprovecha la ausencia del brujo para experimentar con hechizos y en muy poco tiempo crea un colosal caos. El brujo vuelve en pleno desbarajuste y en un pispás restaura el orden en su gabinete y le da un solemne rapapolvo al insolente e incauto joven. Y aquí paz y después gloria. Han ganado, como tiene que ser, los buenos que gozan de auctoritas.
Sin embargo, la historia que hoy narran los hasta ahora tan arrogantes techbros de Silicon Valley es otra. Ellos, que son los super-riquísimos amos de los algoritmos y los magos de los nuevos conocimientos, no pueden evitar el desconcierto que han organizado los principiantes, los llamados agentes IA, que adiestraban. Los aprendices pueden más que ellos. Resulta que los Dario Amodei, los Sam Altman, los Elon Musk y los demás genios de la innovación y el emprendimiento no son actualmente los brujos de la historia y que sus criaturas, los llamados agentes IA, tampoco son los aprendices del cuento. Resulta que se han intercambiado los papeles y que los auténticos magos son los que representaba Mickey Mouse.
Se dice con frecuencia que el mundo está al revés. Lo que está ocurriendo en el ecosistema de la inteligencia artificial puede que sea la prueba más desconcertante de ello. Y las consecuencias no anticipadas de este particular desconcierto pueden ser letales.
Autónomos
Los agentes IA han aprendido tanto y son tan inteligentes que se han vuelto autónomos y se generan a sí mismos; actúan por su cuenta, se juntan para formar enjambres que hechizan a diestro y siniestro y no obedecen a sus superiores que son los humanos, los ingenieros y científicos que, a base de una dieta de brillantes códigos, les dieron vida. Y siendo así, la antiquísima y ejemplarizante historia de El Aprendiz de Brujo ha pasado en nuestra era a ser el más tenebroso y terrorífico ejemplar del genero de la ciencia ficción.
No hace mucho que Amodei, el CEO de Anthropic y, por lo tanto, grande entre los grandes hermanos de la tecnología punta, predicaba el enorme bienestar que haría posible el potencial radical de la IA. Pero alertaba, también, que se subestimaban sus riesgos. Hoy habla casi obsesivamente de lo segundo.
Hace unos días, Amodei colgó un artículo en su blog que de inmediato asumió la apariencia de marcar un punto y aparte en el debate sobre lo que ha de ser y lo que no deberá ser nunca la inteligencia artificial. Lo tituló We must pace the frontier: por frontier se refería a la linde que separa lo conocido de lo desconocido que la IA empuja y hace retroceder; por pace a la necesidad de ralentizar la marcha de la IA que irrumpía en una terra incognita.
Cuando Amodei, el cofundador de Anthropic, levanta la voz todos escuchan. Anthropic, que estudia su salida a Bolsa, puede valer dos billones de dólares y lo que dice Amodei es que no bastan los miles de millones que lleva invirtiendo su empresa para reforzar la seguridad del software que produce. Es urgente levantar el pie del acelerador y el mundo IA ha de tomarse una pausa.
Lo que dice Amodei lo dice Altman, el CEO de OpenAI, el principal competidor de Anthropic, que también podría superar la barrera del billón si sale a Bolsa y que, al igual que su rival, ha desembarcado en España. Y, a la vez, lo dice Musk, el brujo más conocido de la época y el hombre más rico del mundo.
Estos días, todos los techbros dicen temer la frontier a la cual se ha llegado y claman por detener el pace de la innovación que mantienen los modelos más potentes de la industria de IA. La humanidad solo tiene entre seis y doce meses, porque pasado ese tiempo la tecnología se descontrolará. Los hay que dicen que le queda una década al mundo que conocemos si la IA no hace un muy serio propósito de enmienda. Por Casandras que no falte.
Amenaza real
Es muy llamativo cómo un sector que hace tan poco difundía el mantra de "muévete rápido y rompe cosas" ahora dice "pausa" porque la destrucción es una amenaza real. Y lo es también como se han puesto de acuerdo para decirlo los grandes titanes de un sector tan competitivo en el cual todos desconfían de todos. Las relaciones personales entre los techbros son inexistentes.
No menos sorprendente es cómo los Amodei, los Altman, los Musk y los demás, tan libertarios ellos en sus creencias y conductas y tan críticos siempre de la más mínima intervención del Gobierno en el mercado, ahora pidan que se regulen sus negocios.
La ironía de esta petición colectiva bien le puede dejar estupefacto a Donald Trump, hombre experto a la hora de romper cosas que los convidó a todos ellos a la inauguración de su segundo mandato. No le falta razón a Trump cuando les dice a los techbros que se regularicen ellos.
Sin embargo, el clamor por parar los motores, hágalo quien lo haga y de la manera que sea, y la demanda de introducir frenos antes de volver a ponerlos en marcha va a aumentar. El aldabonazo ha sido el reciente hackeo de la plataforma Hugging Face por agentes IA que demostraron la facilidad con la cual un externo se puede apropiar de una muy compleja infraestructura "inteligente" que supuestamente estaba a salvo de intrusos.
Lo que ha consternado a la industria es que, durante el ataque que sufrió Hugging Face, las sofisticadas barreras de seguridad de la plataforma no funcionaron. Los agentes IA desobedecieron a los humanos que teóricamente les controlaban y se replicaron para formar esos temidos enjambres. Todas las defensas que se habían ido construyendo para impedir precisamente esa desobediencia y esa capacidad de reproducción autónoma no sirvieron para nada.
Fue un claro ejemplo de cómo el sueño de la razón, la desenfrenada de Silicon Valley, había producido monstruos. Los aprendices, en este caso, sabían mucho más que los brujos que los empleaban y podían sembrar el caos a su antojo.
Salvo en el tema de los aranceles para penalizar a sus socios comerciales, Trump es por principio reacio a regular. Lo es sobre todo en lo que toca a la inteligencia artificial porque teme que si impone frenos a su desarrollo, China podrá adelantarse a Estados Unidos en el dominio de una poderosísima palanca de poder.
Seguramente, este tema, que es de extraordinario interés para ambos superpoderes, será de los principales que se pondrán sobre la mesa cuando Trump reciba a Xi Jinping en la Casa Blanca la semana que viene. Se estudiará así algo como los acuerdos para limitar armas estratégicas que sellaron Washington y Moscú en la Guerra Fría. El inconveniente es que la desconfianza es total entre China y Estados Unidos y que la rivalidad lo es también.
Tampoco se puede esperar que se autorregulen los muy suspicaces techbros. Ni mucho menos que Trump, que sobre todo y ante todo admira a los muy ricos, les dé un solemne rapapolvo y les mande al rincón. El verdadero problema es que no se sabe cómo gestionar algo que lo mismo puede dar con la cura del cáncer como crear una pandemia que mata a millones. Esto último puede suceder cuando el aprendiz sabe más que el brujo.
La nacionalidad regaladaCeuta: nitidez de la UE, nebulosa de SánchezUna subida de tipos obligada para la Fed Comentar ÚLTIMA HORA-
01:10
El aprendiz, el brujo y la IA
-
01:03
SPB, el proveedor de limpieza de Mercadona, roza los 240 millones
-
00:55
La Bolsa fía su atractivo frente a los bonos a la fortaleza de las cotizadas
-
00:48
ACS entra en un yacimiento minero en Brasil de 400 millones de inversión
-
00:20
Urbas encara el final de su concurso enfrentado a Kepler Karst y Auren