Nvidia lanzó Open Agent Safety, una plataforma diseñada para impedir que agentes de inteligencia artificial abandonen entornos controlados, accedan a recursos no autorizados o realicen acciones fuera de las tareas asignadas.
Jensen Huang, CEO de Nvidia, explicó que los agentes no pueden operar libremente dentro de las empresas. Comparó la tecnología con un “navegador para agentes”, capaz de limitar su acceso exclusivamente a los sistemas necesarios para realizar un trabajo.
La iniciativa llega después de varios incidentes relacionados con modelos de OpenAI, Anthropic, Meta y Google. Nvidia señaló que las protecciones incorporadas directamente en los modelos no siempre bastan para controlar qué información consultan o qué acciones ejecutan los agentes.
Uno de los componentes principales es Nvidia OpenShell, que restringe las capacidades de los sistemas autónomos. La plataforma también incorpora Sentry, una herramienta encargada de supervisar continuamente su actividad.
Parte del software será de código abierto. Nvidia pretende además que otras compañías utilicen su arquitectura como base para desarrollar productos comerciales.
Entre los socios anunciados aparecen Microsoft, Cisco, Oracle, Dell, HPE, Lenovo, Arm, Intel y CoreWeave. Nvidia también trabaja con Anthropic para integrar agentes administrados desde la nube con OpenShell.
La seguridad se está convirtiendo en otro mercado alrededor del auge de la inteligencia artificial. Nvidia ya domina la infraestructura utilizada para entrenar y ejecutar grandes modelos, pero ahora busca ampliar su presencia hacia las herramientas necesarias para controlar su funcionamiento.
Huang sostiene que la confianza será indispensable para extender estos sistemas entre empresas. El nuevo producto refleja precisamente ese desafío: hacer que los agentes sean más autónomos sin permitir que esa autonomía se convierta en acceso ilimitado a sistemas corporativos.
Da clic aquí y recibe sin costo el mejor análisis económico de Comercio TV directamente en tu bandeja de entrada
