«Tanto Anthropic como OpenAI están avanzando a toda velocidad hacia la superinteligencia auto-mejorada (una inteligencia muy por encima de la humana) y jugando con nuestras vidas»
Regala esta noticia Añádenos en GoogleT. Nieva
10/09/2026 a las 08:40h.El investigador de la 'startup' de IA Anthropic Jacob Coxon ha presentado su dimisión al considerar que tanto esta firma como OpenAI, donde también trabajó, ... actúaN con irresponsabilidad en el desarrollo de la IA, que define como una tecnología que no debe ser subestimada y que podría suponer una amenaza para la humanidad.
El empleado de Anthropic sostiene que dentro del sector de la IA ya hay multitud de investigadores que son conscientes del elevado avance de la IA y sus peligros para el conjunto sociedad. Pese a ello, Coxon ha advertido de que muchos de estos ejecutivos minimizarán estos riesgos para evitar el caos. «Quienes desarrollan la IA creen sinceramente que podría acabar con todos nosotros para finales de la década», advierte.
La carrera en el sector por convertirse en la firma más puntera en inteligencia artificial ha provocado que las empresas dejen atrás otras consideraciones respecto al avance de la IA. Coxon especifica que, aunque en Anthropic tienen más en cuenta estas cuestiones que en OpenAI, ambas «están inmersas en una carrera por llegar primero».
«Aceptar esta carrera y entrar en la fase final es una apuesta temeraria que no debería emprenderse desde una empresa privada. Intentar completar la alineación a toda velocidad requiere una confianza extraordinaria en que no existen mejores trayectorias disponibles», dice.
«Tiene razón»
Uno de los responsables de Ciencia de Alineación en Anthropic, Evan Hubinger, ha señalado que las advertencias de Jacob Coxon son reales y que los trabajadores del sector «verdaderamente creemos que la IA podría acabar con todos los humanos».
Más aún, Hubinger ha apuntado que la probabilidad de que esto ocurra se eleva al 10% para el final de esta década. No obstante, sostiene que en Anthropic están haciendo «todo lo posible» para evitar esta situación, aunque todavía no cuentan con un plan para «resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados hacia ello».
«Lo que me preocupa es la superinteligencia que surge de la auto-mejora recursiva, que, como hemos dicho, está ocurriendo más rápido de lo que pensábamos», ha observado.
comentarios Reportar un error