Riesgos inminentes de la IA

La Tribuna

Federico Romero Hernández

Exsecretario general del Ayuntamiento de Málaga y profesor titular de Derecho Administrativo

No soy un experto en la materia de IA y tengo sin embargo la osadía de hablar de esta herramienta formidable. Pero como concierne a ... toda la humanidad y me considero integrada en ella, me atrevo a hacer algunas consideraciones sobre esta materia. En mis frecuentes tertulias dominicales con mi familia -en la cual les aseguro que sí cuento con dos verdaderos especialistas (un hijo y un nieto)- la última comentamos precisamente una reciente publicación mía en la que me refería al tratamiento que, de esa cosa nueva, esa 'res nova', hace el papa León XIV en su Encíclica Magnífica Humanitas (MH). En ella decía, y perdonen la autocita, que la IA «no debe sustituir ni superar la hegemonía del trabajo de los hombres, de la humanidad, de la dignidad de su trabajo y de lo que supone su dotación de conciencia y moral».

Estos 'comportamientos autónomos', llamados desalineamientos, pueden estar favorecidos porque, a causa de la competencia entre las grandes empresas que las financian, pretendan mejorar o potenciar la maquinaria productora de la IA saliéndose de los límites éticos que deben acompañar las actuaciones. Carentes de una conciencia moral, como apunta la MH en el punto 111, «la innovación tecnológica (de la IA) puede ser en cierto modo, una forma humana de participación en el acto divino de la creación». Por supuesto que, como dice Benedicto XVI, en Dios «resplandece la idea creadora original y su poder fundador», pero también ha querido asociar al hombre a la tarea de 'completar' la creación, concediéndole un rol activo y corresponsable de ella. Desde el Génesis (2; 15) «cultivar y cuidar» el jardín supone hacerlo sin que ello implique una dominación destructiva sino una tarea de custodia y desarrollo. «Las IA modernas están más 'cultivadas' que 'construidas': los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA crece». (p. 98 de la MH).

La IA básicamente aprende de los hombres por el método 'prueba y error'. Digamos que da una respuesta a la pregunta que se le hace y en base al error eventualmente cometido en la respuesta, actualiza sus parámetros, por eso se dice que 'aprende'. Pero al carecer de conciencia, este 'aprendizaje' puede orientarse utilizando dicho método en función del 'beneficio', o, como es lo correcto, conforme a una orientación o dotación ética. La IA obedece a lo que llaman 'prompts', es decir a las instrucciones, preguntas o textos para guiar su respuesta o generación de contenido. Por eso, de su utilización responsable -como hacen mi hijo y mi nieto- depende que se ajuste a los principios señalados en la MA.

La nueva revolución ¿industrial? producida por la IA no procede tanto, como desde la primera, en el siglo XIX, de la pérdida de muchos puestos de trabajo, sino del buen uso de la herramienta que la genera. Sam Altman, creador de Chat GPT, ha insistido en diversos medios que el miedo a los peligros de la IA está justificado. Mark Zuckerberg y Elon Musk, que no son sospechosos de pedir ralentizar los progresos, lo hacen porque la velocidad en el desarrollo de la IA, supera, autónomamente, la capacidad de desarrollo de los ingenieros que lo realizan. No en vano 1.300 trabajadores técnicos de Silicon Valley se han manifestado pidiendo 'tiempo' para alcanzar el control que van perdiendo. Aunque Trump no es precisamente partidario de esta desaceleración, obsesionado, como siempre, de no perder la carrera con China, todos los actores directos exigen la creación de un órgano global, que consiga adecuar los tiempos necesarios para que los progresos de la máquina se hagan teniendo las consideraciones éticas, apuntadas, por ejemplo, proféticamente, por León XIV en la MH.

El peligro de la IA es que una máquina, obviamente sin conciencia, pero con una enciclopédica información global, supere a los humanos que, quiérase o no, somos limitados y especializados. Por ello urge que la humanidad tome conciencia de la necesidad de disponer de algún tiempo y mucho y rápido esfuerzo, para anticiparnos a los efectos devastadores de la nueva revolución producida por la IA. De ahí nuestra esperanza en que esos peligros apocalípticos sean conjurados por quienes tienen la posibilidad de hacerlo.

• Temas
• Inteligencia artificial