El panel científico, en cambio, fue creado en agosto de 2025 por la Asamblea General de la ONU con un mandato científico y apolítico. Sus integrantes participan a título personal y no representan a gobiernos, empresas ni a las instituciones donde trabajan. Su función es evaluar la evidencia disponible sobre las capacidades, oportunidades, riesgos e impactos de la IA.
“Nuestra función no es aconsejar. Estamos informando y alertando de posibles riesgos", dice Coello. “Desde el principio, el acuerdo fue que no íbamos a emitir ningún tipo de recomendación, porque hacerlo ya conlleva un sesgo”.
Una discusión global que necesita más países y especialistas
El panel reúne a 40 especialistas de los cinco grupos regionales de la ONU y de distintas áreas. Sus miembros fueron nombrados por tres años y deberán elaborar una evaluación científica anual para presentarla ante el Diálogo Global sobre Gobernanza de la IA.
Coello, doctor en Ciencias de la Computación por la Universidad de Tulane y especialista en computación evolutiva, señala que en grupo hay perfiles de áreas como aprendizaje profundo, cómputo cuántico, filosofía, derecho, educación, lenguaje y ciencias sociales.
impacto ambiental, ya que el panel no cuenta con una persona especializada directamente en el tema, aunque el documento sí lo aborda. Para el investigador, la discusión requeriría incorporar a psicólogos, pedagogos, economistas, especialistas ambientales, criptógrafos, entre otros perfiles.El objetivo no es reunir a una persona experta en cada posible consecuencia, sino sumar experiencias de distintos países. “No vas a tener expertos de todos los temas, pero sí gente que esté en el sector en países diferentes, que vean realidades y trabajen áreas diferentes dentro de IA, para que hubiera visiones que se tenían que fusionar en un documento breve”, agregó.
Una tecnología que avanza más rápido que su gobernanza
El primer informe preliminar del panel advierte que las capacidades de la IA avanzan más rápido que los métodos para medirlas y gobernarlas. En pocos años, los modelos han mejorado en conversación, programación, razonamiento matemático y científico, análisis de grandes cantidades de datos y generación de imágenes, audio y video.
Para Coello, uno de los principales retos es que cualquier diagnóstico sobre el estado de la tecnología puede quedar desactualizado rápidamente. “Es muy difícil hacer una foto del momento, porque cuando la tomamos ya cambiaron muchas cosas”, afirma. Por eso, insiste en que el informe deberá actualizarse conforme aparezcan nuevas capacidades y evidencias.
Este problema se extiende a la regulación. Diseñar, discutir y aprobar una política pública puede tomar meses o años, mientras los modelos continúan cambiando. “Es un blanco en movimiento que nunca vamos a poder alcanzar. No importa qué hagamos: cuando finalmente se produzca una política pública, seguramente ya cambió la tecnología”, sostiene.
Las pruebas utilizadas para medir los modelos también enfrentan problemas. Algunas se vuelven demasiado fáciles, otras pueden haber formado parte de los datos utilizados durante el entrenamiento y los sistemas más avanzados pueden reconocer que están siendo evaluados.
cambiar su comportamiento. El documento también recopila casos de modelos que engañan, incumplen instrucciones o buscan evitar que los apaguen en condiciones de laboratorio.El investigador reconoce que su percepción sobre estos riesgos cambió. “Antes de este panel, yo le decía a la gente ‘no se alarmen, eso no va a ocurrir en el corto plazo’. Ahora ya no estoy tan seguro, porque está avanzando mucho más rápido de los pronósticos que había hace cinco años”.
Coello no cree que la IA esté a punto de desarrollar una voluntad propia. Su preocupación, más bien, se centra en que los sistemas adquieran capacidades que hagan más difícil anticipar sus acciones, evaluar su seguridad o limitar sus usos.
El desarrollo de la IA permanece en pocas manos
La dificultad para gobernar la IA crece porque no todos los países cuentan con las mismas capacidades para desarrollarla, inspeccionarla o evaluarla. De acuerdo con el informe, Estados Unidos concentraba en 2025 el 75% de la potencia computacional de los 500 mayores clústeres conocidos de IA; China el 15%, y el resto del mundo el 10%. Ese mismo año, el 91% de los modelos destacados procedía del sector privado.
La concentración también alcanza a la cadena de suministro. Un solo proveedor controla el 80% o más del mercado, entre estos ASML en Europa y Nvidia en Estados Unidos. Esto deja en manos de pocas compañías decisiones relacionadas con los datos de entrenamiento, el acceso a los modelos y la información que se comparte sobre sus capacidades.
“El hecho de que sean dos países los predominantes conlleva el riesgo de que puedan orientar estas herramientas a sus intereses y no a los intereses del resto de los países”, dice el especialista. “No estoy diciendo que lo hagan, pero pueden hacerlo porque son quienes tienen el control de esa tecnología”.
formación de especialistas, los modelos educativos y la administración pública. También ejemplifica con el caso de Chile, donde se han creado instituciones, estudios y proyectos enfocados en analizar el desarrollo de la IA desde una perspectiva latinoamericana.centros de datos. Requiere una discusión en la que participen más disciplinas, países y comunidades.Agréganos a tus Fuentes Preferidas en Google para seguir nuestro contenidoArrow