Nvidia lance OpenShell en accès général et ajoute Sentry à sa plateforme de sécurité de l’IA

Nvidia rend OpenShell, son environnement isolé destiné à contenir les agents d’IA, accessible à tous et présente parallèlement Sentry, une couche logicielle distincte conçue pour surveiller et mettre en quarantaine les agents exécutés sur du matériel Nvidia. Selon l’entreprise et les informations de WIRED, ces outils s’inscrivent dans sa plateforme plus large, Open Agent Safety Platform.

Un environnement isolé pour les agents

OpenShell avait été présenté pour la première fois en mars, lors de la conférence annuelle GTC de Nvidia. Ce framework vise à isoler l’activité d’un agent au niveau du noyau du système d’exploitation, afin de limiter les parties d’un ordinateur auxquelles il peut accéder pendant l’exécution des tâches qui lui sont confiées. Sa disponibilité générale ouvre ce dispositif de confinement à l’ensemble des utilisateurs. La source ne précise toutefois pas l’étendue de sa licence, au-delà de la qualification d’initiative open source employée par Nvidia.

Une surveillance au-delà de l’environnement isolé

Sentry doit fournir une barrière de sécurité supplémentaire pour les agents fonctionnant sur de longues périodes. Nvidia le présente comme un domaine de sécurité isolé capable de surveiller en continu leur activité et de placer en quarantaine un agent qui dépasserait les limites qui lui sont imposées. Le logiciel est destiné à être déployé sur les unités de traitement de données programmables BlueField de Nvidia. Son rôle annoncé repose donc sur une infrastructure particulière, et pas uniquement sur OpenShell.

Nvidia affirme également travailler avec Arm et Intel à une version de Sentry compatible avec l’architecture x86. Ce développement est toujours en cours et la source ne mentionne aucune date de disponibilité pour cette prise en charge élargie.

Un soutien inégal dans le secteur

Nvidia indique qu’Anthropic, Cisco, CoreWeave, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Mistral, Microsoft et Palantir participent notamment à des collaborations connexes sur la sécurité. L’entreprise affirme aussi que Salesforce, Scale AI et SAP intègrent OpenShell à des degrés divers. Le statut de sa liste élargie de partenaires reste néanmoins moins clair : la source ne permet pas d’établir que toutes les sociétés citées ont adopté ces outils.

OpenAI est notamment absent de l’annonce de Nvidia, alors même que les deux entreprises ont indiqué que le laboratoire d’IA participait au projet OpenShell. D’après WIRED, aucune des deux n’a expliqué cette omission.

Le rôle croissant de Nvidia

Cette publication prolonge l’implication de Nvidia dans les initiatives sectorielles consacrées à la sécurité de l’IA. En juillet, l’entreprise a lancé une coalition qui, selon elle, réunit désormais plus de 120 sociétés et travaille sur le Shared AI Findings Exchange. En associant des mécanismes de contrôle des agents à sa position dans le matériel et les infrastructures, Nvidia cherche aussi à peser sur la manière dont les politiques de sécurité applicables aux logiciels autonomes seront mises en œuvre dans l’ensemble du secteur.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: Nvidia’s Answer to Rogue Agents Is an Open-Source AI Security System