Nvidia gibt OpenShell allgemein frei und ergänzt seine KI-Sicherheitsplattform um Sentry

Nvidia stellt OpenShell, seine Sandbox zur Begrenzung von KI-Agenten, allgemein bereit und führt zugleich Sentry ein. Die separate Softwareebene soll Agenten überwachen und unter Quarantäne stellen, die auf Nvidia-Hardware laufen. Nach Angaben von Nvidia und der Berichterstattung von WIRED sind beide Werkzeuge Teil der umfassenderen Open Agent Safety Platform des Unternehmens.

Eine Sandbox für Agenten

OpenShell wurde im März auf Nvidias jährlicher GTC-Konferenz erstmals angekündigt. Das Framework soll die Aktivitäten eines Agenten im Betriebssystemkern isolieren und damit die Bereiche eines Computers begrenzen, auf die er während der Ausführung zugewiesener Aufgaben zugreifen kann. Die allgemeine Freigabe ermöglicht den Zugang zu diesem Begrenzungs-Framework. Die Quelle nennt jedoch keinen genaueren Lizenzumfang, sondern beschreibt Nvidias Initiative lediglich als Open Source.

Überwachung über die Sandbox hinaus

Sentry soll für langfristig laufende Agenten eine zusätzliche Sicherheitsgrenze schaffen. Nvidia beschreibt die Software als isolierte Sicherheitsdomäne, die Aktivitäten von Agenten fortlaufend überwacht und einen Agenten unter Quarantäne stellen kann, wenn er seine erlaubten Grenzen überschreitet. Die Software ist für den Einsatz auf Nvidias programmierbaren BlueField-Datenverarbeitungseinheiten vorgesehen. Ihre beschriebene Funktion hängt daher von einer bestimmten Infrastruktur ab und ergibt sich nicht allein aus OpenShell.

Nvidia arbeitet nach eigenen Angaben mit Arm und Intel an einer Sentry-Version für die x86-Architektur. Diese Arbeit läuft noch; die Quelle nennt keinen Termin für die Verfügbarkeit der x86-Unterstützung.

Die Unterstützung aus der Branche bleibt uneinheitlich

Nvidia zufolge sind unter anderem Anthropic, Cisco, CoreWeave, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Mistral, Microsoft und Palantir an entsprechenden Sicherheitskooperationen beteiligt. Außerdem erklärt das Unternehmen, dass Salesforce, Scale AI und SAP OpenShell in gewissem Umfang integrieren. Der Status von Nvidias umfassenderer Partnerliste ist weniger eindeutig. Die Quelle stellt nicht fest, dass jedes genannte Unternehmen die Werkzeuge übernommen hat.

OpenAI fehlt in Nvidias Ankündigung auffällig, obwohl beide Unternehmen angedeutet haben, dass das KI-Labor Teil der OpenShell-Initiative ist. Nach Angaben von WIRED erklärte keines der beiden Unternehmen, warum OpenAI in der Ankündigung nicht genannt wurde.

Nvidias größere Rolle

Die Veröffentlichung erweitert Nvidias Beteiligung an branchenweiten Initiativen zur KI-Sicherheit. Das Unternehmen gründete im Juli eine Koalition, der nach eigenen Angaben inzwischen mehr als 120 Unternehmen angehören und die an der Shared AI Findings Exchange arbeitet. Indem Nvidia Kontrollen für Agenten mit seiner Position bei Hardware und Infrastruktur verbindet, versucht das Unternehmen zugleich, die Umsetzung von Sicherheitsrichtlinien für autonome Software in der gesamten Branche zu beeinflussen.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: Nvidia’s Answer to Rogue Agents Is an Open-Source AI Security System