En el ensayo de lanzamiento, los ejecutivos definen la IAG como sistemas capaces de “exhibir” todas las capacidades cognitivas del cerebro humano. A su juicio, este tipo de algoritmos tienen el potencial de acelerar los avances científicos, incrementar la prosperidad económica y solucionar diversas problemáticas ambientales y sociales.
ensayo de presentación, el proyecto debutó con cuatro publicaciones en las que científicos de Google DeepMind y académicos del Centro Leverhulme para el Futuro de la Inteligencia exponen sus opiniones sobre la necesidad de establecer mecanismos de transparencia racional, una serie de propuestas alrededor de la política económica para la IAG y algunos principios para garantizar el “florecimiento humano” ante la evidente evolución tecnológica.Entre estos escritos destaca uno firmado por Demis Hassabis. El texto, titulado “Un marco para la IA de vanguardia y el amanecer de una nueva era”, señala que el desarrollo de la IA podría producir tanto consecuencias positivas como negativas de gran magnitud y a una velocidad superior a la de otras transformaciones tecnológicas.
EE UU como líder de la regulación de la IAG
Hassabis subraya que “en estos momentos, nos encontramos inmersos en una carrera comercial y geopolítica sumamente intensa y compleja. Si bien esta dinámica competitiva impulsa un progreso vertiginoso y acelera los increíbles beneficios, los avances en la vanguardia tecnológica superan nuestra comprensión de la misma. Nadie en el mundo sabe con certeza qué sucederá a partir de ahora”.
Por ello, el experto asegura que Estados Unidos ocupa una “posición privilegiada” que le permitiría liderar la creación de un marco que regule el desarrollo y uso de esta tecnología de vanguardia, a través de la conformación de un “organismo de normalización”.
Según el autor, esta nueva entidad sería la responsable de establecer protocolos para evaluar modelos de IA y realizar pruebas de seguridad, en colaboración con agencias federales y laboratorios nacionales estadounidenses. Además, alentaría a los laboratorios que crean algoritmos de frontera a adoptar diversas medidas de contención de riesgos, que incluyen la publicación de fichas técnicas, el fortalecimiento de sus sistemas de ciberseguridad, la verificación del personal clave y la asignación de recursos a la investigación en seguridad.
amenazas biológicas y otros ámbitos de alto riesgo. En el caso de sistemas de IA con agentes, las pruebas buscarían detectar intentos de evadir medidas de seguridad o indicios de engaño. También se evaluarían prácticas como el uso de marcas de agua digitales en imágenes generadas por IA y la generación de tokens de salida legibles para facilitar la comprensión del razonamiento del modelo.Aunque inicialmente estas pruebas se desarrollarían en colaboración con los laboratorios de desarrollo, Hassabis sostiene que la intención final es que el organismo adquiera facultades para hacer evaluaciones independientes y evitar que los modelos se ajusten específicamente a los criterios utilizados.
Agréganos a tus Fuentes Preferidas en Google para seguir nuestro contenidoArrow“Esta iniciativa estadounidense constituiría un sólido punto de partida para la creación de estándares internacionales compartidos sobre IA de vanguardia. Dado que esta tecnología afectará a todo el planeta, idealmente este marco impulsaría a la comunidad internacional a alcanzar un consenso sobre cómo gestionar los riesgos más graves”, concluyó el presidente de Google DeepMind.
El DMI, así como las propuestas regulatorias de Hassabis, llegan en un momento en el que diversas voces dentro y fuera de la industria exigen frenar el avance de la IA ante los riesgos que su desarrollo sin las salvaguardas necesarias supone para la humanidad. Aunque existe cierto consenso sobre las posibles amenazas, los especialistas aseguran que ninguna empresa ni país están dispuestos a frenar su innovación ante el temor de quedar rezagados frente a sus rivales.