De la 'IA primero' a lo 'Humano primero'

La inteligencia artificial será una de las grandes fuerzas transformadoras de nuestro tiempo, pero no debe convertirse en el nuevo centro moral de nuestras instituciones

José Antonio Trujillo

Málaga

Durante los últimos meses se ha extendido una expresión que suena moderna, ambiciosa y casi inevitable: 'Inteligencia Artificial primero' (AI First). Empresas tecnológicas, consultoras, bancos, ... hospitales, universidades y administraciones públicas empiezan a repetirla como una consigna de transformación. La idea parece clara: situar la inteligencia artificial en el centro de la estrategia, rediseñar procesos desde ella, automatizar tareas, ganar eficiencia, anticiparse a la competencia y no quedarse atrás en una revolución que avanza a una velocidad difícil de digerir.

La inteligencia artificial llega a empresas con trabajadores cansados, a hospitales con listas de espera, a aulas con alumnos desiguales, a administraciones con burocracia, a hogares con brechas digitales y a ciudadanos que no siempre saben cuándo una decisión ha sido tomada por una persona, por un algoritmo o por una mezcla confusa de ambos. Por eso, antes de preguntarnos qué puede automatizar la IA, conviene formular una pregunta anterior: qué no debemos perder por el camino.

El Papa León XIV lo ha recordado con especial oportunidad en su encíclica Magnifica Humanitas, dedicada precisamente al interés por la dignidad humana en el tiempo de la inteligencia artificial. No se trata de una advertencia contra la tecnología, sino de una llamada a ordenar el progreso desde una brújula moral. La IA puede ayudarnos en multitud de campos, pero si la lógica que la gobierna es solo la eficiencia, el ahorro o la ventaja competitiva, la persona corre el riesgo de quedar reducida a dato, perfil, predicción, consumidor o expediente.

La IA promete resolver problemas reales, pero también puede amplificar viejos defectos humanos: la prisa, el control, la desigualdad, la opacidad, la despersonalización. Una empresa puede implantar IA para mejorar la atención al cliente o para convertir al cliente en una secuencia de respuestas automáticas. Un hospital puede usar IA para priorizar mejor una prueba diagnóstica o para esconder bajo una apariencia tecnológica decisiones organizativas discutibles. Una administración puede emplearla para agilizar trámites o para levantar una muralla digital entre el ciudadano y el funcionario responsable. La diferencia no está solo en el algoritmo. Está en la intención, en el diseño, en la supervisión y en la cultura de la organización.

Por eso necesitamos pasar del 'IA primero' a lo 'Humano primero' (From AI First to Human First). La IA debe ser una herramienta de aumento humano, no una coartada para la retirada humana. Debe ayudar a decidir mejor, no sustituir la responsabilidad de decidir. Debe liberar tiempo para tareas de mayor valor, no llenar la vida profesional de nuevas dependencias. Debe reducir desigualdades, no crear una aristocracia de usuarios expertos frente a una mayoría desorientada.

El entusiasmo tecnológico suele venir acompañado de una tentación peligrosa: pensar que todo lo que puede medirse puede gobernarse, y que todo lo que puede predecirse puede resolverse. Pero la vida humana no cabe del todo en una base de datos. En medicina lo sabemos bien.

El 'Human First' exige gobernanza. Significa que no basta con comprar una herramienta porque 'funciona' en una demostración. Hay que comprobar si funciona en la realidad, con personas reales, en contextos reales y con consecuencias reales. La transparencia no puede ser un lujo reservado a expertos. El ciudadano tiene derecho a saber cuándo una decisión importante está mediada por IA, qué papel ha tenido la máquina y quién responde si algo falla.

Pero el 'Human First' exige algo más profundo: un nuevo compromiso con la alfabetización. No basta con enseñar a usar herramientas. Hay que enseñar a sospechar de ellas de forma inteligente. A entender sus límites. A detectar sesgos. A no confundir velocidad con verdad. A no aceptar como neutral lo que ha sido entrenado con datos, intereses y decisiones humanas. En la época de la IA, la ignorancia tecnológica no será una anécdota, sino una nueva forma de vulnerabilidad.

En realidad, la pregunta esencial no es si una organización debe incorporar inteligencia artificial. La respuesta, en muchos sectores, será sí. La pregunta importante es otra: qué tipo de organización queremos ser cuando la incorporemos. Una organización obsesionada con automatizarlo todo acabará automatizando también su humanidad. Una institución que solo mire indicadores puede terminar olvidando aquello que no cabe en el cuadro de mando. Una empresa que convierta el 'AI First' en religión corporativa corre el riesgo de sacrificar en el altar de la eficiencia lo más valioso que tiene: la confianza de las personas.

No se trata de elegir entre inteligencia artificial y humanismo. Esa oposición es falsa. La verdadera elección está entre una IA gobernada por valores humanos y una humanidad gobernada por lógicas algorítmicas que nadie termina de comprender.

La inteligencia artificial será una de las grandes fuerzas transformadoras de nuestro tiempo, pero no debe convertirse en el nuevo centro moral de nuestras instituciones.