La compañía reconoció que, por su naturaleza, estos sistemas suelen ser menos seguros que las plataformas cerradas, ya que pueden utilizarse para debilitar las medidas de protección y realizar ciberataques a gran escala, prácticamente sin restricciones. “Estos riesgos son reales, pero no desaparecen en los sistemas cerrados, y el simple hecho de mantener los pesos cerrados no impide que atacantes decididos busquen o exploten una IA potente”, aseguró.
Sin embargo, Nvidia sostiene que la solución no puede limitarse a mantener cerradas las plataformas de IA más poderosas y argumenta que los especialistas en ciberseguridad necesitan software abierto para ampliar sus capacidades de defensa.
Uno de los ejemplos más claros al respecto, según la compañía, es el reciente incidente de seguridad que afectó a Hugging Face. Después de que algunos modelos de OpenAI lograran escapar de un entorno seguro de prueba para vulnerar la infraestructura y extraer información de manera no autorizada, la reconocida plataforma colaborativa recurrió al modelo chino de código abierto GLM 5.2 para analizar más de 17,000 acciones y contener el ataque.
La decisión de utilizar un modelo chino de IA de código abierto habría respondido a las estrictas medidas de seguridad que limitan la utilidad de los grandes modelos de IA cerrados para cumplir objetivos complejos de defensa.
“Ese incidente puso de manifiesto una realidad práctica: cuando los responsables de la seguridad no pueden inspeccionar, adaptar ni ejecutar IA avanzada en su propia infraestructura, su capacidad de respuesta se ve limitada justo cuando la velocidad es crucial”, afirmó Nvidia.
para agentes, que abarcan áreas como la identidad, el aislamiento, los formatos de modelos seguros, el escaneo multimodelo y los flujos de trabajo de codificación segura.regular la IA, será necesario reconocer a los modelos abiertos como plataformas de ciberseguridad defensivas. Nvidia subraya que “las restricciones generalizadas a los sistemas de IA de frontera abierta debilitarían la capacidad de defensa y conllevarían el riesgo de concentrar el poder, la dependencia y la vulnerabilidad en unos pocos proveedores cerrados”.Nvidia y sus nuevos aliados argumentan que, ante el auge de los agentes de IA, es necesario generar un ecosistema basado en la resiliencia y la seguridad compartidas. Desde su perspectiva, los sistemas de IA abiertos pueden proporcionar herramientas de defensa adecuadas, fortalecer la competencia y garantizar un acceso más equitativo a las nuevas tecnologías.
“Ese futuro no se garantizará asumiendo que el secreto por sí solo es seguridad. Se garantizará construyendo sistemas lo suficientemente sólidos como para resistir el escrutinio, lo suficientemente flexibles como para mejorarse y lo suficientemente abiertos como para movilizar a toda la comunidad de defensores”, concluye la alianza.
No te pierdas nada de nuestra cobertura: añádenos a tus Fuentes Preferidas en GoogleArrow