A este fenómeno se refiere el concepto de “explosión de inteligencia” citado por los autores, que, a su juicio, podría superar exponencialmente las capacidades humanas y aumentar de manera significativa los riesgos asociados con la IA avanzada en, al menos, tres aspectos.
Los riesgos de la “explosicón de inteligencia”
En primer lugar, advierten que los sistemas más potentes podrían facilitar la creación de amenazas biológicas y cibernéticas que se desarrollen más rápido que las medidas necesarias para contrarrestarlas.
En segundo lugar, disminuiría la participación humana en las tareas de investigación y desarrollo de la IA, lo que reduciría el margen de acción disponible para supervisar y controlar de manera efectiva estos sistemas.
Finalmente, los Estados podrían convertir esta “explosión de inteligencia” en una ventaja decisiva para gestionar unilateralmente los mercados, las economías y los acuerdos internacionales acorde a sus propios intereses.
“Una explosión de inteligencia artificial podría ser el desarrollo tecnológico más trascendental de la historia de la humanidad, comprimiendo años de progreso en meses o menos, amenazando el control humano sobre los sistemas de IA y erosionando gravemente los controles de poder dentro y entre los Estados, las empresas y las ramas del gobierno”, afirma el documento.
Los expertos señalan que las autoridades internacionales y los gobiernos de las naciones deben regular con rapidez el desarrollo de la IA, ya que “una vez que se produce una explosión de inteligencia, es posible que se cierre el plazo para actuar”. El texto pronostica que los proyectos de investigación y desarrollo relacionados con esta tecnología podrían automatizarse por completo en los próximos dos años.
Agréganos a tus Fuentes Preferidas en Google para seguir nuestro contenidoArrowEl documento recomienda tres medidas concretas para evitar un escenario caótico: exigir informes transparentes sobre los avances en I+D relacionados con la IA, incluida la participación de auditores independientes en las empresas; desarrollar mecanismos para frenar el rápido avance de estos sistemas, y establecer medidas de adaptación ante la posible “explosión de inteligencia”.
Los especialistas señalan que los controles existentes son ineficientes. Concluyen que “una explosión de inteligencia podría ser el desarrollo tecnológico más trascendental de la historia humana, que comprime años de progreso en meses o menos, amenaza el control humano sobre los sistemas de IA y erosiona severamente los contrapesos de poder dentro de los Estados, las empresas y las ramas del gobierno y entre ellos”, y añaden que el momento de actuar es ahora.