Sin embargo, según el padre Paolo Benanti, un sacerdote que asesora a la Iglesia católica en materia de IA, esta polémica desvía la atención de un debate abierto sobre cómo limitar a las empresas que la desarrollan. Al presentar el problema como algo tan complejo que solo ellos pueden resolver, afirma, los grandes laboratorios excluyen a los demás del debate.
“La ética no puede ser algo que pertenezca al consejo de administración de una empresa. Es algo que debe equilibrarse y debatirse en la esfera pública”, explica Benanti a WIRED. “Necesitamos una regulación democrática”.
En un ensayo publicado después de las advertencias de seguridad, el director ejecutivo de Anthropic, Dario Amodei, pidió que los nuevos modelos de IA se sometan a evaluaciones obligatorias por parte de organismos externos antes de su lanzamiento al público. También sugirió algún tipo de medida restrictiva contra la “destilación”, un proceso en el que laboratorios rivales entrenan a su propia IA a partir de los resultados de modelos patentados. Otros abogan por una prohibición total de la “automejora recursiva”, en la que la IA usa sus capacidades de programación para desarrollar futuras iteraciones de sí misma.
A Benanti no le interesa tanto restringir los métodos de desarrollo de la IA (lo que, según teme, podría frenar la innovación). Pero sí quiere establecer normas para garantizar que los modelos no se escapen del control humano. Sea cual sea la forma que adopten esas normas, declara, los laboratorios no son quienes deberían diseñarlas.
“El discurso de las empresas pioneras responde a intereses propios para ganar o mantener el liderazgo en el mercado”, afirma Benanti. Cuando un solo pequeño grupo de personas dicta las reglas, dice, “tiene un nombre muy claro: un cártel”.
Es difícil saber hasta dónde tomarse en serio las grandilocuentes declaraciones sobre las capacidades de los modelos de IA más nuevos, señala Benanti, en parte por los incentivos económicos, políticos y personales que entran en juego.
Aunque OpenAI y Anthropic respaldan las peticiones de desacelerar el desarrollo, también se preparan para salir a bolsa, y hay miles de millones de dólares para quien conquiste al mercado. Las tensiones entre EE UU y China, donde se desarrollan los modelos más avanzados, también complican el panorama.
Anthropic se negó a hacer comentarios para esta nota. OpenAI y Google DeepMind no respondieron a las solicitudes de comentarios.
Benanti también critica la manera en que ciertos sectores de la industria hablan de la “superinteligencia” con el tipo de admiración que normalmente se reserva para un Dios. Como algo tan sofisticado que escapa a nuestra comprensión, prácticamente omnipotente. (El director ejecutivo de OpenAI, Sam Altman, dijo una vez que aspira a crear una “inteligencia mágica en el cielo”). Benanti cree que ese tipo de planteamiento amenaza con sesgar el discurso.
“¿Estamos hablando de algo o de alguien? Esa es la verdadera diferencia. No es una cuestión de fe, es una cuestión de matemáticas”, afirma. “No estamos creando la próxima divinidad. Simplemente nos estamos engañando al pensar que hay algo más que un cálculo estadístico [en marcha]”.
Cuando nos preguntamos qué separa al hombre de la máquina y cómo proteger a las futuras generaciones de los efectos negativos de esta tecnología, la llegada de la IA tiene el potencial de crear “un nuevo papel para las religiones en el debate público”, declara Benanti. “Vivir el desafío de nuestros tiempos forma parte de la misión de la Iglesia”.
primera encíclica, una carta que aplica las enseñanzas religiosas a los problemas actuales y aclara la postura de la Iglesia. Eligió la inteligencia artificial como tema.En ella, el papa lanzó advertencias contra la lógica tecnocrática que impregna al sector de la IA, pues presenta “la eficiencia como la medida máxima de la productividad” y reduce a los seres humanos a “un proyecto para optimizarse”. También llamó a la colaboración internacional entre superpotencias rivales y empresas de IA, que, según él, deben apartarse del “deseo de asegurar el dominio geopolítico o comercial” para garantizar que todo se piense en torno al bien común. En uno de los apartados más proféticos, dijo que hay un “riesgo de que la humanidad se convierta en víctima de sus propios logros”.
La polémica sobre la superinteligencia amenaza con desviar la atención de las ambiciones en la encíclica, cree Benanti, al animar a la gente a cederle su voz a un pequeño grupo de matemáticos, informáticos y directivos de esas grandes empresas.
“Lo primero que necesitamos es tener frenos y un volante”, declara Benanti. “Eso significa que los seres humanos deben tener un control significativo sobre la máquina”.
Artículo originalmente publicado en WIRED.com. Adaptado por Jorge Ramis.