Publicación inminente
OpenAI ha anunciado que planea publicar cientos de resultados de problemas sin resolver en GitHub este martes, según informaron a WIRED personas familiarizadas con los planes. Esta publicación sería la más reciente de las decenas de miles de soluciones matemáticas generadas por la IA este año.
“El 28 de agosto comenzamos a entrenar un nuevo modelo interno. Además de resolver el problema del Premio del Milenio de Navier-Stokes, este modelo ha resuelto ya más de 100 problemas abiertos de larga data en la mayoría de las áreas de las matemáticas”, refiere McCallum. “Estamos trabajando para publicar de forma responsable los próximos resultados matemáticos de nuestro modelo, basándonos en el asesoramiento y las recomendaciones públicas del Grupo Asesor sobre Matemáticas e Inteligencia Artificial del Instituto de Estudios Avanzados para definir cómo dar a conocer estos resultados. Aún no hemos fijado una fecha de publicación”.
Sin embargo, para varios matemáticos destacados, la inminente publicación también es una señal de que la empresa ha aprendido poco de las polémicas suscitadas por revelaciones anteriores.
El juego de las matemáticas
En conversaciones con WIRED, los académicos aseguran que tienen la sensación de que el campo se ha convertido en un terreno de juego para que OpenAI y su rival Anthropic presuman de sus modelos, mientras ambas se preparan para unas salidas a bolsa espectaculares. En su prisa por superarse mutuamente, según los matemáticos, han dejado de lado los procesos científicos tradicionales para la publicación y la atribución de resultados.
El caso más llamativo hasta la fecha se produjo en septiembre. OpenAI desplegó miles de agentes para resolver el legendario problema del Premio del Milenio, dotado con un millón de dólares, tras escuchar “rumores” de que otros se estaban acercando a las soluciones. Tristan Buckmaster, matemático y profesor de la Universidad de Nueva York, acusó a la empresa de adelantarse al trabajo que él había realizado para resolver un elemento del problema en una colaboración personal con Levent Alpöge, empleado de Anthropic. La pareja no había publicado su trabajo, pero había estado utilizando las herramientas de OpenAI como ayuda.
Durante un intento de negociar el reconocimiento, Buckmaster señala que el investigador de OpenAI, Sébastien Bubeck, pareció insinuar que Alpöge debería ser excluido de cualquier artículo, ya que eso complicaría las cosas. En respuesta a una solicitud de comentarios, Bubeck señaló una declaración pública anterior en la que negó haber pedido que Alpöge no figurara como autor. Buckmaster dijo que se negó. En una llamada, Bubeck comentó que “existe cierta preocupación por lo que está haciendo Anthropic. Levent debe estar hablando con sus líderes ahora mismo para hacerles saber que la maldita OpenAI puede resolver un problema del Premio del Milenio, dijo. ¿Qué impide a Anthropic dar toda su capacidad de cómputo para resolver un problema del Premio del Milenio?”.
grupo asesor para ayudar a determinar cómo la empresa evalúa y comunica los nuevos resultados, mantiene los estándares académicos y profesionales, y desarrolla herramientas que apoyan la investigación y el aprendizaje matemático. Sin embargo, según los matemáticos, la empresa no parece haber avanzado mucho.Muchos se sienten frustrados porque OpenAI y Anthropic siguen publicando resultados en blogs en lugar de artículos científicos, lo que dificulta la verificación y a menudo excluye trabajos previos de otros matemáticos. Los anuncios fragmentados no se limitan a los laboratorios: el propio Alpöge anunció que había refutado una conjetura de 87 años de antigüedad mediante un tuit publicado poco después de la final de la Copa del Mundo.
“Para mí, las matemáticas a través de tuits y comunicados de prensa no son la manera de nutrir el ecosistema que creó el terreno fértil en el que se han formado”, objeta Kra.
Este año, algunos han creado nuevas herramientas en respuesta al aumento de las demostraciones asistidas por máquinas. El objetivo es ayudar a la comunidad a utilizar los nuevos resultados y a discernir qué información requiere un análisis más profundo. Entre estas herramientas se encuentran Hexagon, un repositorio de material generado principalmente por IA, y Palomar, un registro de matemáticas verificadas por máquinas.
Aunque se ha animado directamente a OpenAI a utilizar estas herramientas, “no han cambiado su comportamiento”, señala Kra. Tampoco cree que las acciones de la empresa estén en consonancia con la Declaración de Leiden, un llamado de más de 4,000 matemáticos para que las empresas de IA cumplan con los estándares de la comunidad matemática, en cuya redacción ella participó.
¿El fin de las matemáticas como las conocemos?
Varios empleados de OpenAI creen que su tecnología ya ha dejado obsoletas las matemáticas, según personas que han hablado con ellos. “No creemos que el futuro de las matemáticas esté escrito”, opina McCallum. “Estamos colaborando con la comunidad matemática para afrontar el futuro de forma conjunta”. El escenario en el que las capacidades de la IA superan las de los investigadores humanos se planteó como hipotético durante la reunión de agosto, pero los asistentes que hablaron con WIRED lo interpretaron como una advertencia sobre lo que estaba por venir. La compañía ha informado a los matemáticos sobre sus capacidades y avances de la misma manera que “la policía podría querer notificar a la familia antes de informar de una muerte en un accidente de tráfico”, comparó la persona.
Según una persona cercana a él, Bubeck parece pensar que la tecnología de su empresa acabará rápidamente con la carrera de la mayoría de los matemáticos. En declaraciones a WIRED, Bubeck destaca que cree que una IA más potente podría ayudar a los matemáticos a abordar cuestiones más ambiciosas, conectar mejor su trabajo con la solución de problemas del mundo real y hacer que las matemáticas sean más accesibles. “Veo esto como una oportunidad para ampliar las capacidades de los matemáticos y el impacto que puede tener su trabajo”, declara.
Los matemáticos están conscientes de que deben adaptarse, sobre todo para preparar a las nuevas generaciones, pero no creen que su campo esté muerto. “Está cambiando nuestra forma de trabajar, pero creo que es un momento para pensar en grande”, esgrime Kra. Le alegra contar con una nueva y poderosa herramienta para resolver problemas; solo desea que las compañías sean más transparentes para poder confiar en los resultados y aprovecharlos.
“Es un momento que da miedo, pero también es muy emocionante”, concluye.
Artículo originalmente publicado enWIRED.com. Adaptado por Mauricio Serfatty Godoy.