Anthropic veröffentlicht Claude Sonnet 5.5 mit Cyber-Schutzmaßnahmen und Modell-Fallbacks

Anthropic hat Claude Sonnet 5.5 veröffentlicht. Damit integriert das Unternehmen erstmals dreistufige Cyber-Schutzmaßnahmen und automatische Modell-Fallbacks in seine mittelgroße Sonnet-Reihe. Anthropic betont zwar, dass Sonnet 5.5 die Leistungsgrenzen seiner Modelle insgesamt nicht verschiebt, die Fähigkeiten im Bereich Cybersicherheit sind jedoch deutlich gewachsen. Dies führte zum Einsatz von klassifikatorgestütztem Sicherheits-Routing, das zuvor höherrangigen Modellen vorbehalten war. Im Agentic-Coding-Benchmark Terminal-Bench 4.0 erzielte Sonnet 5.5 bei der Einstellung für maximale Rechenleistung (xhigh effort) ein Ergebnis von 70,6 % und übertraf damit die 66,4 % von Opus 5.5.

Deutliche Fortschritte bei offensiver Sicherheit

Dem System Card von Anthropic zufolge zeigte Sonnet 5.5 bei deaktivierten Schutzmaßnahmen erhebliche Zuwächse in Tests zur offensiven Sicherheit. Auf ExploitBench erreichte das Modell bei 178 von 410 Durchläufen die vollständige Ausführung von beliebigem Code. Auf CyScenarioBench von Irregular bewältigte es 46,1 % der Aufgaben, verglichen mit nur 0,7 % bei Sonnet 5. Zudem gelangen dem Modell 50 Control-Flow-Übernahmen in einem Test auf Basis von Googles OSS-Fuzz-Korpus für binäre Exploits, während die Vorgängergeneration lediglich drei erreichte.

Diese Leistungssteigerungen veranlassten Anthropic dazu, dieselbe Richtlinie für Cybersicherheit anzuwenden wie bei Opus 5 und Opus 5.5. Der Schutzmechanismus basiert auf internen Aktivierungssonden, einem direkt auf Sonnet 5.5 laufenden Klassifikator sowie einem separaten LLM-Klassifikator, der die Ausgabe bewertet, um über die Einschränkung einer Anfrage zu entscheiden. Während Anthropic die Identifizierung von Schwachstellen in Quellcode erlaubt, wird das Scannen kompilierter Binärdateien blockiert.

Modell-Routing und API-Integration

Wenn das Sicherheitssystem eine cyberbezogene Anfrage oder bestimmte Eingaben zur Kernel-Entwicklung im Bereich maschinelles Lernen markiert, leitet die Architektur die Anfrage auf Sonnet 5 zurück. Anfragen zu chemischen, biologischen oder konventionellen Waffen sowie Anti-Distillations-Auslöser werden ohne Fallback vollständig blockiert. Die nativen Anwendungen von Anthropic leiten blockierte Cyber-Anfragen automatisch an Sonnet 5 weiter. API-Entwickler müssen diesen Fallback-Mechanismus hingegen explizit aktivieren. Ist der Fallback deaktiviert, bricht der blockierte API-Aufruf ab.

Anthropic hebt hervor, dass die Sicherheitsprüfungen den gesamten vom Modell verarbeiteten Kontext analysieren. Dazu gehören abgerufene Dokumente, Ergebnisse aus Websuchen und eingebundene Dateien. Somit können auch von autonomen Agenten abgerufene Daten Dritter Verweigerungen oder ein Fallback-Routing auslösen, selbst wenn der Nutzer dies nicht direkt veranlasst hat.

Risiken durch Prompt Injections beim Altmodell-Fallback

Der Fallback-Mechanismus bringt in Produktionsumgebungen gewisse Sicherheits-Kompromisse mit sich. In internen Programmiertests von Anthropic lösten 25 % der Anfragen an Sonnet 5.5 die Cyber-Schutzblockade aus und wurden an Sonnet 5 übergeben, oft verursacht durch Prompt-Injection-Versuche zum Löschen von Dateien oder Festplatten. Von diesen umgeleiteten Anfragen waren 12,01 % bei Sonnet 5 erfolgreich, während Sonnet 5.5 selbst nur bei vier von 5.901 direkten Anfragen kompromittiert wurde.

Im Gegensatz dazu zeigte ein separater Benchmark für indirekte Prompt Injections des KI-Sicherheitsunternehmens Gray Swan keinen Leistungsabfall bei aktiven Fallbacks. Anthropic gab an, die Klassifikatoren kontinuierlich zu verfeinern, um fälschlicherweise ausgelöste Verweigerungen zu reduzieren. Zudem soll Sonnet 5.5 in ein erweitertes Cyber Verification Program aufgenommen werden, um überprüften Sicherheitsexperten breiteren Zugriff zu gewähren.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: You picked Claude Sonnet 5.5 — but Anthropic may send your request to Sonnet 5