Red Hat lleva la seguridad de los agentes de IA más allá de las barreras del modelo

Red Hat promueve una arquitectura de seguridad basada en sistemas para los agentes de IA empresariales. La compañía sostiene que las barreras del modelo no pueden actuar como principal límite de seguridad cuando el software tiene capacidad para utilizar herramientas, acceder a credenciales y operar sobre sistemas corporativos. En una publicación del 28 de septiembre, expuso una serie de controles independientes destinados a restringir al agente incluso cuando fallen sus instrucciones, sus dependencias o su comportamiento.

La autoridad necesita límites externos

El enfoque propuesto considera al agente de IA una carga de trabajo potente que puede comportarse de manera imprevista o verse comprometida. La identidad y la autorización determinan a qué recursos puede acceder, mientras que las restricciones de herramientas, el aislamiento en entornos controlados, la separación de cargas de trabajo y las políticas de red limitan sus acciones y comunicaciones. La observabilidad y AgentOps permiten registrar el uso de herramientas, la actividad y los resultados obtenidos.

Aplicación de controles en toda la pila

Según Red Hat, estos mecanismos deben funcionar en varias capas independientes, entre ellas el modelo y la aplicación, el entorno de ejecución del agente, el sistema operativo, la red y la infraestructura. Su arquitectura combina Red Hat OpenShift AI, Red Hat OpenShift, Red Hat Enterprise Linux y Red Hat AI Inference con tecnologías de computación, redes e IA de NVIDIA dentro de Red Hat AI Factory with NVIDIA.

La empresa no considera que ningún control aislado de la plataforma sea suficiente para proteger a un agente. El principio central es la defensa en profundidad: las medidas de protección deben seguir siendo eficaces sin depender de que el agente reconozca o respete una restricción.

Las políticas deben convertirse en controles verificables

Red Hat también identifica una brecha entre las políticas de gobernanza de las organizaciones y las reglas técnicas que pueden aplicarse de forma efectiva. La comunidad de código abierto asago, fundada por Red Hat junto con NVIDIA y otros colaboradores de la industria y la investigación, estudia cómo transformar las políticas en riesgos identificados, escenarios de prueba y controles, con un recorrido auditable hasta su implementación. La arquitectura continúa evolucionando, y la publicación señala entornos de ejecución de agentes como OpenShell como uno de los posibles puntos de aplicación.

Límites trasladados fuera del sistema anfitrión

NVIDIA Open Agent Safety Platform aporta otro posible límite. OpenShell proporciona mecanismos de aislamiento y políticas, mientras que las unidades de procesamiento de datos NVIDIA BlueField pueden ejecutar determinadas funciones de red, seguridad, supervisión o aplicación de políticas en un entorno aislado por hardware y separado de las aplicaciones del sistema anfitrión. Red Hat presenta esta separación como un complemento de los controles de identidad, ejecución, sistema operativo y plataforma, no como una solución completa para la seguridad de los agentes.

El mismo planteamiento por capas se extiende por debajo de los controles de ejecución. Red Hat señala que las vulnerabilidades de frameworks, servicios y dependencias de código abierto influyen en la seguridad de las aplicaciones basadas en agentes. Su iniciativa Lightwell con IBM se centra en medidas para la cadena de suministro de software, como la remediación validada, los artefactos firmados y la procedencia del software.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: Securing AI agents requires securing the systems around them