Red Hat veut sécuriser les agents d’IA au-delà des garde-fous des modèles

Red Hat défend une architecture de sécurité systémique pour les agents d’IA en entreprise. Selon l’entreprise, les garde-fous appliqués aux modèles ne peuvent plus constituer la principale barrière dès lors qu’un logiciel peut utiliser des outils, accéder à des identifiants et agir sur des systèmes métier. Dans un billet publié le 28 septembre, elle présente des contrôles indépendants destinés à limiter un agent même en cas de défaillance de ses instructions, de ses dépendances ou de son comportement.

Des limites externes à l’autorité des agents

L’approche proposée considère un agent d’IA comme une charge de travail puissante, susceptible d’adopter un comportement imprévu ou d’être compromis. L’identité et les autorisations déterminent les ressources auxquelles il peut accéder. Les restrictions imposées aux outils, le sandboxing, l’isolation des charges de travail et les politiques réseau encadrent ses actions et ses communications. L’observabilité et l’AgentOps permettent en parallèle de retracer l’utilisation des outils, les activités réalisées et leurs conséquences.

Une application des contrôles à tous les niveaux

Red Hat estime que ces mécanismes doivent fonctionner à plusieurs niveaux indépendants : modèle et application, environnement d’exécution de l’agent, système d’exploitation, réseau et infrastructure. Son architecture associe Red Hat OpenShift AI, Red Hat OpenShift, Red Hat Enterprise Linux et Red Hat AI Inference aux technologies de calcul, de réseau et d’IA de NVIDIA au sein de Red Hat AI Factory with NVIDIA.

L’entreprise ne présente aucun contrôle de plateforme comme suffisant à lui seul pour sécuriser un agent. Le principe central reste la défense en profondeur : les mécanismes d’application doivent demeurer efficaces sans dépendre de la capacité de l’agent à comprendre ou à respecter une restriction.

Transformer les politiques en contrôles vérifiables

Red Hat relève aussi un écart entre les politiques de gouvernance des organisations et les règles techniques réellement applicables. Fondée par Red Hat avec NVIDIA et d’autres partenaires industriels et universitaires, la communauté open source asago étudie la conversion de ces politiques en risques identifiés, scénarios de test et contrôles, avec un parcours de mise en œuvre vérifiable. Cette architecture continue d’évoluer, et le billet cite les environnements d’exécution d’agents tels qu’OpenShell parmi les points d’application possibles.

Déplacer certaines barrières hors de l’hôte

L’Open Agent Safety Platform de NVIDIA apporte une autre barrière potentielle. OpenShell fournit des mécanismes de sandboxing et de gestion des politiques, tandis que les unités de traitement de données NVIDIA BlueField peuvent exécuter certaines fonctions de réseau, de sécurité, de supervision ou d’application des politiques dans un environnement isolé par le matériel, distinct des applications exécutées sur la machine hôte. Red Hat présente cette séparation comme un complément aux contrôles d’identité, d’exécution, de système d’exploitation et de plateforme, et non comme une réponse complète à la sécurité des agents.

Cette logique en couches s’étend sous les contrôles d’exécution. Selon Red Hat, les vulnérabilités des frameworks, des services et des dépendances open source influent sur la sécurité des applications agentiques. Menée avec IBM, l’initiative Lightwell porte sur la chaîne d’approvisionnement logicielle, notamment sur la remédiation validée, les artefacts signés et la provenance des logiciels.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: Securing AI agents requires securing the systems around them