Saltar al contenido

NVIDIA Open Agent Safety Platform: una capa de seguridad para frenar agentes de IA

noviembre 18, 2026
Equipos de red y servidores usados para supervisar agentes de inteligencia artificial

Los agentes de inteligencia artificial ya no se limitan a redactar respuestas: pueden ejecutar código, abrir archivos, consultar bases de datos, usar credenciales y encadenar acciones durante horas. Ese margen de actuación aumenta su utilidad, pero también el impacto de una instrucción ambigua, un fallo o un ataque. NVIDIA presentó el 28 de septiembre de 2026 Open Agent Safety Platform, una arquitectura que intenta aplicar límites fuera del propio agente mediante capas de software y hardware.

La plataforma reúne OpenShell, un entorno de ejecución abierto para aislar agentes y aplicar políticas, y Sentry, un diseño de supervisión independiente que puede ejecutarse en DPU BlueField-4. La idea central es sencilla: un agente no debería ser responsable de vigilarse a sí mismo. Las reglas deben imponerse desde componentes que el modelo no pueda modificar ni eludir con una salida generada.

Índice

Por qué las salvaguardas del modelo no son suficientes

Los filtros y las instrucciones del sistema influyen en lo que un modelo intenta hacer, pero no constituyen una barrera técnica definitiva. Un agente puede interpretar mal el objetivo, encontrar datos inesperados o recibir contenido diseñado para desviar su comportamiento. Si además tiene acceso directo a red, archivos y credenciales, una equivocación puede propagarse con rapidez.

NVIDIA utiliza el concepto de deriva para describir acciones que se apartan de la tarea o de las restricciones previstas. Puede aparecer por una política que bloquea un paso, una herramienta ausente, un error de software o una ejecución muy larga. La empresa sostiene que conservar capacidad avanzada implica asumir que no todo comportamiento indeseado puede eliminarse durante el entrenamiento.

Qué es OpenShell

OpenShell es un entorno de ejecución de código abierto, con licencia Apache 2.0, que coloca cada agente en un espacio aislado. Define qué archivos puede ver, a qué destinos de red puede conectarse, qué procesos puede lanzar y qué credenciales puede recibir. El agente se trata como una carga no confiable desde el inicio.

La arquitectura incluye un sandbox, un supervisor separado, una puerta de enlace y un verificador de políticas. El sandbox restringe sistema de archivos, procesos y red. El supervisor evalúa las solicitudes salientes. La puerta de enlace administra identidades, ciclos de vida y configuración. El verificador comprueba que una política nueva no supere el máximo autorizado por la organización.

La separación es importante porque el agente no controla el componente que decide permitir o denegar. Incluso si genera código o inicia procesos hijos, las restricciones permanecen en el núcleo y en el supervisor. Cada decisión puede registrarse para formar una pista de auditoría.

Políticas verificables y mínimo privilegio

Una política útil no dice simplemente «actúa con cuidado». Especifica recursos y operaciones: lectura de una carpeta, acceso a un dominio, método de una API o uso temporal de una credencial. La configuración debería comenzar denegando todo y añadir solo los permisos necesarios para la tarea declarada.

Ese enfoque reduce el radio de daño. Un agente encargado de resumir documentos no necesita escribir en todos los directorios ni enviar información a cualquier servidor. Un asistente que consulta inventario no debería poder modificar precios si esa acción no forma parte de su cometido. Para proyectos internos, una guía sobre cómo automatizar con inteligencia artificial sin perder el control ayuda a convertir objetivos generales en permisos, revisiones y límites concretos.

Qué añade NVIDIA Sentry

Sentry amplía la separación al hardware. Según NVIDIA, se ejecuta sobre BlueField-4, fuera del agente y del software principal del servidor. Puede combinar señales de ejecución, identidad, red, herramientas y acceso a datos. Al trabajar desde un dominio aislado, pretende seguir observando aunque la carga o el sistema anfitrión se vean comprometidos.

El diseño utiliza NVIDIA DOCA para programar la infraestructura y relacionar las políticas de OpenShell con eventos observados. Esa correlación crea un registro contextual: qué agente actuó, con qué autoridad delegada, qué intentó consultar y qué decisión tomó la capa de control.

Cuando detecta una desviación o infracción, Sentry puede restringir comunicaciones o poner en cuarentena la carga. NVIDIA anuncia respuesta a escala de milisegundos en configuraciones compatibles. Esa cifra procede del proveedor y depende del despliegue; no debe entenderse como una garantía universal para cualquier sistema.

Tres capas de seguridad

Aplicación

Incluye el modelo, las instrucciones, las herramientas, los datos y el código que resuelve la tarea. Aquí se define la misión y se aplican controles funcionales, validación de entradas y revisión de resultados.

Entorno de ejecución

Proyecta la aplicación sobre una infraestructura concreta. Aísla el agente, gestiona permisos y aplica políticas en tiempo real. Es la capa de OpenShell y no depende de que el modelo recuerde o respete voluntariamente una regla.

Infraestructura

Comprende CPU, aceleradores, red, almacenamiento y componentes especializados. Sentry y BlueField añaden observación y aplicación fuera de banda. La defensa en capas busca evitar que un fallo único deje al agente sin límites.

Qué puede controlar una empresa

Una organización puede crear perfiles distintos para desarrollo, prueba y producción. Un agente experimental puede trabajar con datos sintéticos y sin acceso externo. En producción, las credenciales se entregan solo después de comprobar identidad y política, y pueden tener alcance y duración reducidos.

También pueden exigirse aprobaciones para operaciones sensibles. El sistema puede preparar una acción y dejarla en espera hasta que una persona la confirme. Para decisiones repetitivas de bajo riesgo, las reglas permiten automatizar; para cambios irreversibles o de gran impacto, la intervención humana sigue siendo apropiada.

La trazabilidad debe incluir tanto los intentos permitidos como los bloqueados. Si solo se registran éxitos, se pierde información valiosa sobre deriva, ataques y configuraciones insuficientes. Revisar esos eventos ayuda a actualizar políticas sin ampliar permisos de forma indiscriminada.

Límites y preguntas abiertas

Una arquitectura de seguridad no demuestra que un agente sea correcto. Puede impedir el acceso a un archivo, pero no garantiza que la respuesta elaborada con datos autorizados sea exacta. La evaluación del contenido sigue requiriendo pruebas y, cuando corresponda, revisión especializada. Conviene aplicar un proceso para verificar respuestas de inteligencia artificial antes de convertirlas en decisiones.

Tampoco todo despliegue dispone de BlueField-4. OpenShell puede usarse sin ese componente en infraestructuras compatibles, pero la capa independiente de hardware cambia. Cada empresa debe distinguir funciones disponibles, requisitos, costes y madurez del producto.

La observabilidad plantea además cuestiones de privacidad. Registrar herramientas, solicitudes y razonamiento puede revelar información sensible. Los registros necesitan minimización, cifrado, acceso limitado y plazos de conservación. La seguridad no justifica recopilar indefinidamente todos los datos de actividad.

Otro límite es la configuración. Una política demasiado amplia ofrece poca protección; una demasiado estricta bloquea el trabajo y puede incentivar excepciones improvisadas. Diseñar permisos requiere conocer la tarea, los datos y las consecuencias de cada acción.

Cómo probar un agente de forma segura

El primer paso es inventariar herramientas y recursos. Después se crea una política mínima y se ejecuta el agente con datos de prueba. El equipo observa qué solicitudes realiza, cuáles se bloquean y si existen rutas alternativas no previstas.

Las pruebas deben incluir entradas maliciosas, documentos con instrucciones ocultas, caídas de herramientas, respuestas incompletas y tareas prolongadas. También conviene simular una credencial revocada y una pérdida de conexión. El objetivo no es demostrar perfección, sino conocer cómo falla y si el sistema lo contiene.

Antes de ampliar el alcance se revisan métricas: intentos bloqueados, falsos positivos, tiempo de intervención, permisos temporales concedidos y acciones que necesitaron aprobación. Cada expansión debe acompañarse de una nueva evaluación.

Implicaciones para pymes

Una pyme quizá no necesite hardware especializado, pero sí puede aplicar los principios: aislamiento, mínimo privilegio, credenciales temporales, registro y aprobación de acciones sensibles. Ejecutar un agente con la cuenta de un administrador y acceso completo resulta arriesgado aunque el modelo sea conocido.

La formación puede ayudar a comprender posibilidades y límites. Recursos como un curso para dominar la inteligencia artificial o una guía para crear aplicaciones con inteligencia artificial sin programar pueden servir para prototipar y formular requisitos. En entornos reales deben complementarse con especialistas en seguridad, protección de datos y cumplimiento.

Lista de comprobación antes de producción

  • Definir la misión y prohibir explícitamente acciones fuera de alcance.
  • Aislar cada agente y denegar red y archivos por defecto.
  • Entregar credenciales con el mínimo alcance y duración.
  • Aplicar reglas desde fuera del proceso del agente.
  • Registrar decisiones de permitir y denegar sin recopilar datos innecesarios.
  • Exigir aprobación humana para cambios irreversibles.
  • Probar deriva, ataques, fallos de herramientas y ejecuciones largas.
  • Preparar cuarentena, revocación y recuperación.

Conclusión

NVIDIA Open Agent Safety Platform propone tratar a los agentes como cargas no confiables y separar la autoridad de control del modelo. OpenShell aporta aislamiento y políticas verificables; Sentry y BlueField-4 añaden una vigilancia independiente en configuraciones compatibles. El planteamiento no convierte a un agente en infalible, pero puede limitar lo que alcanza y facilitar la investigación cuando se desvía.

La lección práctica es que la seguridad de agentes no puede descansar únicamente en prompts o filtros. Necesita permisos técnicos, identidad, supervisión, registros, respuesta ante incidentes y personas responsables. La defensa en capas cobra importancia a medida que los agentes reciben más herramientas y trabajan durante más tiempo.

Fuente principal: NVIDIA Technical Blog, “NVIDIA Open Agent Safety Platform”, 28 de septiembre de 2026. Se han contrastado la documentación de OpenShell y la información de Sentry publicadas por el fabricante.