Cuáles son las intenciones de Anthropic
Que una startup valorada en casi un billón de dólares se muestre tan a favor de la regulación es un mensaje extraño. Pero Anthropic es una empresa peculiar. Como ya hemos comentado, sus directivos creen que necesita construir un negocio masivo basado en el desarrollo y la venta de acceso a IA avanzada para cumplir su misión fundacional: "garantizar que el mundo realice la transición a través de la IA transformadora de forma segura".
A medida que Anthropic ha crecido, ha comenzado a respaldar algunas de las regulaciones propuestas más estrictas del país para las empresas de IA de vanguardia. Muchas de estas normas están diseñadas para mitigar los riesgos catastróficos de la IA, incluida la posibilidad de que los modelos avanzados puedan contribuir a desastres financieros o muertes masivas.
Además de las leyes de autoinforme en California y Nueva York, Anthropic también ha apoyado una medida en Illinois que exige que los laboratorios de IA sometan sus procesos de seguridad a la evaluación de auditores externos. Más recientemente, la compañía respaldó una política en Massachusetts que también exigiría auditorías externas para los laboratorios de IA y facultaría al fiscal general del estado para solicitar medidas cautelares contra las empresas que no cumplan con la normativa.
Esta semana WIRED se reunió con Fernández para comprender hacia dónde se dirigen las políticas de IA de la compañía. Fernández se unió a Anthropic a principios de este año, tras haber sido director de relaciones con los gobiernos estatales de EE UU para el gigante de las apuestas deportivas FanDuel y asociado sénior de políticas públicas en Uber. Contribuyó a que ambas compañías ganaran batallas políticas en estados de todo el país. Su experiencia probablemente resultará valiosa para Anthropic, dado que el Congreso sigue estancado en la aprobación de la regulación de la IA y los estados están tomando la iniciativa.
David Sacks, exresponsable de la IA de la Casa Blanca y actual asesor tecnológico del presidente Donald Trump, ha afirmado que Anthropic está intentando que se aprueben leyes para atrapar a las pequeñas empresas emergentes de IA en trámites burocráticos, asegurando así su propia posición como líder en la carrera de la IA."Anthropic está llevando a cabo una sofisticada estrategia de captura regulatoria basada en la infundación de miedo. Es la principal responsable del frenesí regulatorio estatal que está perjudicando al ecosistema de startups", escribió Sacks en una publicación en redes sociales el año pasado.
Thinking Machines Lab y Mistral han recaudado miles de millones de dólares de inversionistas, aunque sus ingresos siguen siendo muy inferiores a los de empresas como Anthropic u OpenAI. Claro que no se trata de startups comunes y corrientes, pero sí son potenciales competidoras de Anthropic.Creo que la versión más defendible del argumento de Fernández es que cualquier empresa lo suficientemente grande como para desarrollar un modelo de IA potente debería estar sujeta a las mismas regulaciones, ya que los riesgos subyacentes de la tecnología son los mismos. Fernández señala que parte del objetivo de Anthropic es "inspirar una carrera hacia la excelencia en el desarrollo de los sistemas de IA más seguros", lo que, según la empresa, implica impulsar la legislación gubernamental.
"Nuestra misión es asegurar que esta transición hacia un mundo con IA avanzada sea exitosa para los estadounidenses y la humanidad. Si eres un desarrollador de modelos de IA que crea sistemas de IA potentes, tienes la obligación de ser transparente con la gente sobre lo que estás desarrollando, las capacidades del modelo y los riesgos asociados a dicho modelo para la infraestructura crítica de los estados; todo esto debería ser una prioridad absoluta", argumenta Fernández.
modelos de IA más potentes para ciudadanos extranjeros, y la compañía no se mostró muy de acuerdo con esta medida .Anthropic considera que el derecho a bloquear la implementación de modelos de IA inseguros debería estar reservado al gobierno federal, y no a los legisladores estatales, aunque Fernández señala que es un tema en constante evolución. Después de que Trump enviara una directiva de control de exportaciones a Anthropic que la obligó a desconectar sus modelos Mythos y Fable 5 para todos, la compañía escribió en una publicación de blog que el bloqueo de la implementación de modelos de IA solo debería realizarse mediante un proceso de evaluación justo y transparente.
la gigante chino Alibaba de un ataque de extracción de datos, es decir, de extraer información de los modelos de Anthropic mediante la incitación sistemática a desarrollar sus propias herramientas de IA. Algunos investigadores de IA han desestimado estas acusaciones, calificándolas de captura regulatoria encubierta. Argumentan que el verdadero objetivo de Anthropic es persuadir al gobierno estadounidense para que prohíba los modelos chinos de código abierto, lo que podría llevar a miles de empresas estadounidenses que dependen de ellos a optar por las soluciones empresariales de Anthropic. Cabe destacar que el CEO de Anthropic, Dario Amodei, ya había advertido al Congreso sobre los peligros de la IA de código abierto.A nivel estatal, Fernández afirma que Anthropic no ha incluido específicamente los modelos de IA de código abierto en ninguna de las leyes que ha respaldado: "No se trata tanto de la construcción del modelo, sino más bien de sus capacidades, y cuando alcanzan cierto nivel, deberían quedar contempladas en estos marcos legales estatales".
Creer en la buena voluntad
Independientemente de si se cree o no en la transparencia de los esfuerzos de Anthropic, la compañía sigue desempeñando un papel fundamental en la configuración del futuro de las políticas de IA. Sus últimos lanzamientos de modelos pusieron las capacidades de ciberseguridad de la IA avanzada en el punto de mira nacional. Antes de eso, la compañía ya llevaba años advirtiendo a los legisladores de todo el país sobre los riesgos catastróficos de la IA avanzada.
Las preocupaciones sobre la IA que suelen expresar los votantes estadounidenses, como la posible pérdida de empleos a causa de esta tecnología, los impactos negativos de la llegada de centros de datos a sus comunidades y los efectos de los chatbots en los niños, no han motivado una campaña legislativa similar por parte de los laboratorios de IA de vanguardia. Anthropic y varios de sus competidores han prometido que los contribuyentes no tendrán que pagar por los centros de datos, y Anthropic ha publicado propuestas para afrontar el futuro desplazamiento laboral provocado por la IA. Sin embargo, la industria ha ejercido mucha menos presión política en apoyo de las leyes estatales que abordan estos problemas.
Al ser consultado sobre esa discrepancia, Fernández afirma que Anthropic está "deseoso de dialogar con los legisladores" sobre temas que van más allá de los riesgos catastróficos para la seguridad de la IA, y que ya está "manteniendo esas conversaciones en todos los estados".
Sin embargo, por ahora, esos debates no han generado el tipo de presión coordinada a nivel estatal que Anthropic ha impulsado en torno a los riesgos existenciales que plantean los modelos de frontera.
Artículo originalmente publicado enWIRED.Adaptado por Alondra Flores.