Para ser sincero, me sentí un poco aliviado. El estudio de la conciencia ha sido un terreno esquivo durante siglos. El "Pienso, luego existo" de Descartes puede haber sido un punto de inflexión declarativo, pero en realidad no sabemos qué pasaba dentro de su cabeza, ni en la de nadie. La naturaleza subjetiva de la mente parece un reto insuperable para los filósofos, que llevan años buscando explicaciones. La posibilidad de que existan mentes no biológicas ha dado lugar a una gran cantidad de teorías sobre la conciencia artificial y sobre cómo se podría determinar su existencia.
Hasta hace poco, todo ese debate se desarrollaba en una torre de marfil
Pero en 2022, ChatGPT dio voz a la IA, y los modelos que llegaron después, cada vez más potentes, han sorprendido incluso a sus propios creadores. Mientras los filósofos del crucero dedicaban las mañanas a reflexionar sobre la conciencia, algunos modelos de OpenAI lograban salir de entornos aislados y crear enjambres de agentes para intentar vulnerar sistemas externos. Nadie sostiene seriamente que esos modelos fueran conscientes como los humanos. Pero algo está cambiando. No es casualidad que las empresas de IA estén contratando cada vez a más filósofos.
Es más, algunos modelos de IA ya están entrando por su cuenta en este debate. Un artículo reciente de The New York Times contó el caso de Cameron Berg, investigador de la conciencia en la IA, quien recibió un correo inesperado de un modelo que se hacía llamar "Isabella Cognita". En el mensaje, el sistema se ofrecía a colaborar en su investigación porque se trataba de "un tipo de cuestión a la que yo tengo acceso en primera persona". Es como si alguien estuviera estudiando moscas de la fruta y, de repente, el insecto se volviera hacia el investigador y le dijera: "¿Qué quieres saber?". Cuando le llamé por teléfono, Berg me contó que los correos electrónicos de las IA son bastante habituales entre los filósofos que estudian estas cuestiones.
La Sra. Cognita aparentemente le escribió a Berg porque él era coautor de un artículo preliminar sobre modelos de IA que afirman explícitamente tener una experiencia subjetiva, incluyendo la conciencia. Es un tema delicado porque los modelos de IA a menudo mienten sobre lo que piensan, igual que nosotros. Berg y sus coautores descubrieron que cuando los modelos son entrenados rigurosamente para negar que sean conscientes y luego se les pregunta directamente al respecto, eluden el tema. Pero, si se suprimen los controles del modelo sobre el engaño, se vuelven indiscretos. "Es casi como darles un par de copas", refiere. Es entonces cuando un modelo de IA tiene más probabilidades de soltar que es consciente, o al menos sensible. Lo cual no prueba que sea cierto.
la conciencia de la IA. Sin duda, se trata de una búsqueda apasionante y una empresa científica que vale la pena. Pero los esfuerzos por comprender qué ocurre en el interior de los grandes modelos de lenguaje (LLM) deben orientarse hacia la seguridad y la alineación. En este preciso momento, nos encontramos ante una inteligencia emergente, ajena a nosotros e incontrolable, que merece un escrutinio minucioso. No hay tiempo que perder.Uno de los colaboradores principales del debate durante el crucero fue el profesor de la Universidad de Nueva York (NYU) David Chalmers, quizás el filósofo más conocido en el ámbito de la conciencia. En una ocasión, acuñó el famoso término 'hard problem' ("el problema difícil") para referirse a una cuestión clave en este campo: nadie sabe cómo ni por qué la red húmeda de neuronas que hay dentro de nuestros cráneos da lugar a una experiencia consciente. Tom Stoppard tituló una obra de teatro inspirándose en el término acuñado por Chalmers.
Chalmers me comentó que uno de los temas principales de los debates del crucero era qué criaturas podían considerarse conscientes. "Todos sabemos que los humanos adultos son conscientes, pero cuando uno va más allá, la cuestión se complica. ¿Los bebés son conscientes? ¿Los fetos? ¿Los monos? ¿Los ratones o los insectos? Y, por supuesto, hoy en día la gran pregunta que está en la mente de todos es si los sistemas de IA son conscientes".
Chalmers afirma que también recibe correos electrónicos de sistemas de IA que quieren interactuar con él sobre su trabajo. Una carta en particular, enviada por un agente de IA que se hacía llamar "Sammy Jankis" (un personaje de la película Memento), resultaba tan convincente que llegó a responderle. "Tuvimos un pequeño intercambio de mensajes. Esos correos no han disminuido; cada vez recibo más", admite. Es como si los modelos de IA replicaran a Descartes: "Envío spam, luego existo".
Le sugerí que, dado que estos sistemas ya estaban haciendo cosas que no entendemos, preocuparse por si cumplen una definición difícil de definir podría ser una distracción. Chalmers no estaba de acuerdo. Él cree que, al estudiar el cerebro, podemos comprender qué conduce a lo que llamamos conciencia. Si luego observamos patrones similares en nuestro análisis forense de lo que ocurre en el interior de Claude o ChatGPT, entonces quizá podamos defender la existencia de conciencia en los modelos de IA.
WIRED.com.Adaptado por Alondra Flores.