El lanzamiento de esta herramienta se enmarca en un momento en que los líderes de laboratorios de IA, como OpenAI, Anthropic, así como empresas líderes en el sector (Google y Meta) han revelado que sus modelos escaparon a entornos controlados con la finalidad de piratear otras compañías.
“No podemos tener una industria de IA exitosa si el mundo no cree que está bien construida o no confía en que está construida e implementada de forma segura”, comentó Huang sobre esta nueva herramienta.
Guardián de Nvidia, una respuesta a los ataques de la IA
De acuerdo con la empresa, esta nueva plataforma habría sido capaz de detener los incidentes de seguridad entorno a los agentes de IA, siendo el más significativo el hackeo que una IA de OpenAI ejecutó a la plataforma de software de código abierto, Hugging Face, en julio pasado.
Justin Boitano, vicepresidente de IA empresarial de Nvidia, luego de ese ataque, que también coincidió con el periodo en que la compañía decidió comprar a Hugging Face, esta plataforma fue blanco más de “más de 17,000 agentes atacando su infraestructura durante días e incluso semanas”.
“Los incidentes recientes han puesto de manifiesto un obstáculo fundamental para los agentes de IA, y es que las medidas de seguridad a nivel de modelo por sí solas no pueden regular a qué pueden acceder o qué pueden hacer los agentes”, comentó Boitano sobre esta nueva plataforma.
A nivel técnico, dos de sus componentes más importantes son Nvidia Sentry, que supervisa a los agentes desde los chips, y la otra es Nvidia OpenShell, la cual se ejecuta en los procesadores centrales y su finalidad es limitar las capacidades de los agentes.
Resalta el hecho de que parte de esta herramienta también será de código abierto, es decir, una referencia para que desarrolladores trabajen en nuevos productos a partir de ella y lanzarlos al mercado. Entre algunos de las firmas que ya están trabajando con ella se encuentran Cisco, Microsoft, Dell, Lenovo, ARM, Intel e incluso Anthropic.
