Dos de los laboratorios de IA más importantes han contratado equipos de filósofos internos. “Ahora hay muchos más filósofos en esas áreas”, afirma el especialista en ética Iason Gabriel, quien dirige el equipo de investigadores de Google DeepMind especializado en el impacto social de la IA. En Anthropic, la filósofa residente Amanda Askell se ha convertido en uno de los rostros más reconocibles de la empresa. Ambos laboratorios declinaron revelar el número de filósofos que emplean. WIRED contabiliza al menos 10 en DeepMind y cuatro en Anthropic.
Mientras los filósofos en los laboratorios ayudan a dar forma a los modelos de IA, produciendo trabajos destacados citados en cientos de artículos de investigación posteriores, la IA también está influyendo en los planes de estudio de filosofía en universidades de renombre. Muchas ahora imparten cursos de ética de la IA o programas conjuntos de informática y filosofía. “Es la tendencia del momento”, afirma Edward Harcourt, profesor de filosofía y director del Instituto de Ética en IA de la Universidad de Oxford.
Sin embargo, en el ámbito académico, algunos ven con cierto recelo a los filósofos que trabajan en los laboratorios. Si una empresa de IA con fines de lucro te paga, ¿podría eso comprometer tu investigación? Al actuar ante la IA como Aristóteles con Alejandro, ¿corres el riesgo de que tu trabajo se convierta en un instrumento para generar expectación y crear mitos justificantes? “Es muy positivo para la imagen pública de las empresas tecnológicas que la gente crea que están haciendo algo increíblemente inusual y sumamente poderoso”, afirma Harcourt. “Hay algo de autoelogio en fomentar ese campo de investigación”.
Filosofía en Google DeepMind y Anthropic
Cuando Iason Gabriel se unió a DeepMind hace casi 10 años, la idea de la IA como un agente moral, y mucho menos consciente, no estaba en el horizonte. En aquel entonces, se centraba en cuestiones como el sesgo algorítmico. Pero con la llegada de los grandes modelos de lenguaje a principios de la década de 2020 “tuvimos la capacidad de codificar un conjunto de valores mucho más rico”, explica Gabriel.
Agréganos a tus Fuentes Preferidas en Google para seguir nuestro contenidoArrowHoy en día, los agentes de IA están empezando a enviar correos electrónicos, programar citas y escribir código. En otras palabras, empiezan a interactuar con el mundo. Su comportamiento puede afectar no solo al usuario directo, sino también a otras personas. Ahí es donde Gabriel centra su investigación. “Lo que se ha convertido en un campo de investigación muy fecundo es la cuestión de la alineación de valores; en esencia, qué significa que la tecnología sea activamente beneficiosa”, afirma. “Resulta que se pueden invertir muchísimas horas de reflexión filosófica intentando comprenderlo”.
Las preguntas sobre la conciencia y la superinteligencia ejercen una gran fascinación, pero los filósofos que trabajan en los laboratorios dedican la mayor parte de su tiempo a riesgos mucho más inmediatos: la imparcialidad , la desinformación, el uso malintencionado , los agentes descontrolados , etc. “Ahora existe interés en la conciencia de la IA”, afirma Gabriel. “Pero en ese ámbito, nos centramos más en la recopilación de pruebas”.
En algún lugar de las entrañas de la oficina de DeepMind, de 16,000 metros cuadrados, en el centro de Londres, Julia Haas, miembro del equipo de responsabilidad de la empresa, se plantea preguntas como “¿Qué quiero entender realmente sobre los modelos? ¿Qué creo que es importante? ¿Cómo lo medimos? ¿Cómo planteamos esos problemas? ¿Cómo los comunicamos?”, explica.
publicado en Nature , que proponía un marco para comprobar si los grandes modelos de lenguaje (LLM) exhiben competencia moral. Ella y sus colegas buscan la mejor manera de distinguir la competencia moral de su mera imitación, y se preguntan cómo explicar mejor las variaciones en los valores morales entre personas de culturas radicalmente diferentes. El trabajo de Haas está alejado de los procesos de entrenamiento del modelo estrella de Google, Gemini, o de su integración en un chatbot para el público. “Lo consideraría una fase muy temprana del proceso”, afirma.En Anthropic, los filósofos participan más directamente en el desarrollo de modelos. “Ninguna startup contrata a un filósofo para que se dedique a la filosofía”, afirma Askell. Tras doctorarse en filosofía en 2018, Askell se unió a OpenAI en un puesto relacionado con políticas. Tres años después, cuando un grupo de empleados de OpenAI se marchó para fundar Anthropic, ella fue una de las primeras en incorporarse. Una de las principales responsabilidades de Askell es identificar casos límite en los que imitar comportamientos humanos podría ser inapropiado para los modelos (por ejemplo, al interactuar con alguien que sufre angustia psicológica) y proponer formas de corregir esas peculiaridades mediante entrenamiento. Esto implica muchas conversaciones con Claude, el modelo de lenguaje insignia de Anthropic. Fue la principal redactora de la famosa “constitución” de Claude, un extenso documento dirigido directamente al modelo que estipula cómo debe comportarse y qué valores generales debe defender. “Redactar la constitución fue algo que se asemeja mucho a la filosofía aplicada”, comenta Askell. “Algo más parecido a enseñar a una persona a ser buena”.
incorporó a su plantilla a un investigador asociado sénior de la Universidad de Cambridge que trabajará en temas como la conciencia artificial y la preparación para la superinteligencia. Su nuevo cargo es, sencillamente, “filósofo”.Artículo publicad originalmente en inglés en WIRED.