La IA podría ayudar en este proceso
"Algo en lo que la IA es buena es en el reconocimiento de patrones. Si tuvieras un conjunto de datos lo suficientemente grande y bien conservado, podrías entrenar un modelo que sea capaz de identificar tanto cambios diminutos en ubicaciones particulares como también identificar sistemas de armas individuales", indica Korda.
El Nuevo START, un tratado de la era Obama que limitaba la cantidad de armas nucleares que desplegaban Estados Unidos y Rusia, expiró la semana pasada, el 5 de febrero. No hay de qué preocuparse, según los informes, los países todavía planean mantener el statu quo, por ahora. Ambos países están gastando miles de millones en construir nuevos y diferentes tipos de armas nucleares. China está construyendo nuevos silos de misiles balísticos intercontinentales (ICBM). A medida que Estados Unidos se retira de la escena mundial, sus garantías nucleares significan menos, y países como Corea del Sur están poniendo sus ojos en la bomba. La confianza entre las naciones está en su punto más bajo.
En este contexto, Korda y Morić proponen utilizar la infraestructura existente para negociar y aplicar nuevos tratados. Ningún país quiere "inspectores in situ merodeando por su territorio", explica Korda. Así que, en su defecto, las potencias nucleares del mundo pueden utilizar satélites y otros sensores remotos para supervisar las armas nucleares del mundo a distancia. La IA y los sistemas de aprendizaje automático tomarían entonces esos datos, los clasificarían y los someterían a revisión humana.
Es una propuesta imperfecta, pero es mejor que la nada literal que el mundo tiene ahora.
Durante décadas, Estados Unidos y Rusia han trabajado para reducir la cantidad de armas nucleares en el mundo. En 1985 había más de 60,000 armas nucleares. Esa cifra se ha reducido a poco más de 12,000. Eliminar unas 50,000 armas nucleares llevó décadas de trabajo dedicado por parte de políticos, diplomáticos y científicos. La muerte del START representa la refutación de esas décadas de trabajo. Estas inspecciones in situ fomentaron la confianza entre Rusia y Estados Unidos y sentaron las bases para una disminución de las tensiones durante la Guerra Fría. Esa era ha terminado ahora, sustituida por una era de acritud y una renovada carrera armamentística nuclear.
"La idea que teníamos en este documento era: ¿y si hubiera una especie de término medio entre no tener control de armamento y limitarse a espiar, y tener control de armamento con inspecciones intrusivas in situ que quizá ya no sean políticamente viables? ¿Qué podemos hacer a distancia si los países cooperan entre sí para facilitar un régimen de verificación a distancia?", cuestiona Korda.
misiles balísticos, las lanzaderas móviles de cohetes y los centros de producción de fosas de plutonio. Un gran obstáculo es que una buena aplicación de un régimen de tratado aplicado a distancia requeriría un cierto nivel de cooperación. Las potencias nucleares tendrían que aceptar participar."Podrían transmitir un mensaje diciendo: 'Oye, para verificar este tratado de control de armas, queremos que abras la escotilla del silo X este día, a esta hora concreta, porque es cuando nuestro satélite va a sobrevolar'", dice Korda. De este modo se puede llevar a cabo este tipo de verificación mutua utilizando la tecnología existente en la actualidad. No es necesario que haya nadie in situ ni que se realice una cobertura persistente al estilo del espionaje, en la que solo se espera captar atisbos de cosas. En lugar de eso, se trabaja conjuntamente para hacer una verificación mutua".
Recibe en tu correo lo más relevante sobre innovación e inteligencia artificial con el newsletter de WIRED en español.ArrowQué harían exactamente estos sistemas de IA
"¿Cuál es la tarea? ¿Se trata de detectar la presencia o ausencia de un objeto? ¿Clasificar lo que está viendo? ¿O quiere identificar y seguir los cambios a lo largo del tiempo?", declara Al-Sayed a WIRED.
En un mundo hipotético en el que la IA y la teledetección sustituyeran a las inspecciones, las partes que acordaran un nuevo régimen de tratado tendrían que ponerse de acuerdo sobre cómo funcionan las IA y qué es lo que rastrean. Eso significa nuevas rondas de negociación y nuevos acuerdos en un momento en que los países ni siquiera están cumpliendo sus antiguos acuerdos.
Al-Sayed argumenta que si llegamos a un punto en el que los países están negociando los detalles del control de armas de IA, entonces el mundo ya está en problemas: "¿Por qué querrías confiar en un régimen de verificación basado en la IA? Si crees que la automatización es necesaria, entonces estás en este paradigma en el que sientes que necesitas atrapar cada caso de engaño de tu adversario o de tu socio en el tratado de control de armas. ¿Cómo es posible que dos o más partes se pongan de acuerdo para negociar un acuerdo o tratado de control de armas si se supone que cada acción puede ser sospechosa?".
La investigación de Al-Sayed sobre IA y control de armas también le ha demostrado que estos sistemas son más complejos de lo que sus impulsores quieren hacer creer. "Hay una estocasticidad inherente a estas técnicas, desde el proceso de selección de los datos que se van a utilizar para entrenar el modelo, pasando por el etiquetado y el propio modelo, hasta el rendimiento aleatorio de ese modelo y su falta de explicabilidad, y la aleatoriedad que se produce", explica.
"¿Cómo podemos hacer que las propias máquinas sean fiables?", pregunta. De momento, no podemos. Los sistemas de IA fallan todos los días. Salen de fábrica con enormes fallos de seguridad y la gente que los diseña a menudo no puede explicar cómo funcionan. Esta tecnología sería difícil de utilizar en un nuevo régimen de control de armas nucleares.
instalaciones nucleares. Para Korda, Morić y otros en el FAS, se trata de triaje: utilizar satélites y sistemas imperfectos de IA para vigilar las armas nucleares del mundo podría ser un pequeño puente hacia un mundo mejor."Un sucesor del START no nos encaminará hacia el desarme. Solo va a ayudarnos a prevenir una espiral real hacia el despliegue de cientos de armas nucleares adicionales", concluye Korda.
Artículo originalmente publicado enWIRED.Adaptado por Alondra Flores.