Anthropic lance Claude Sonnet 5.5 avec des garde-fous cyber et le basculement de modèle

Anthropic a publié Claude Sonnet 5.5, marquant la première intégration de garde-fous cyber à trois niveaux et de mécanismes de basculement automatique de modèle au sein de sa gamme intermédiaire Sonnet. Bien qu'Anthropic précise que Sonnet 5.5 ne repousse pas les frontières globales des performances de ses modèles, ses capacités en matière de cybersécurité ont nettement augmenté, ce qui a motivé le déploiement d'un routage de sécurité piloté par classificateurs, jusqu'alors réservé aux modèles supérieurs. Sur le test d'évaluation de codage agentique Terminal-Bench 4.0, Sonnet 5.5 a atteint un score de 70,6 % avec son réglage d'effort « xhigh », dépassant ainsi les 66,4 % d'Opus 5.5.

Gains significatifs en sécurité offensive

Selon la fiche système diffusée par Anthropic, Sonnet 5.5 a affiché des progrès notables lors des tests de sécurité offensive lorsque les protections étaient désactivées. Le modèle a réussi 178 exécutions complètes de code arbitraire sur 410 essais sur ExploitBench. Sur le test CyScenarioBench d'Irregular, il a accompli 46,1 % des tâches contre 0,7 % pour Sonnet 5. De plus, il a réalisé 50 détournements de flux de contrôle lors d'un test d'exploitation binaire basé sur le corpus OSS-Fuzz de Google, contre trois pour la génération précédente.

Ces avancées ont incité Anthropic à appliquer la même politique cyber que celle utilisée pour Opus 5 et Opus 5.5. Le processus de contrôle repose sur des sondes d'activation internes, un classificateur intégré fonctionnant sur Sonnet 5.5, et un classificateur LLM distinct qui évalue les sorties pour décider si une requête doit être restreinte. Si Anthropic autorise la recherche de vulnérabilités dans le code source brut, l'entreprise bloque l'analyse de vulnérabilités sur les fichiers binaires compilés.

Routage de modèles et intégration API

Lorsque le système de sécurité signale une requête liée au domaine cyber ou à certains développements de noyaux d'apprentissage automatique, la demande est redirigée vers Sonnet 5. Les requêtes concernant des armes chimiques, biologiques ou conventionnelles, ainsi que les déclencheurs anti-distillation, sont totalement bloquées sans possibilité de basculement. Les applications natives d'Anthropic redirigent automatiquement les requêtes cyber bloquées vers Sonnet 5, tandis que les développeurs utilisant l'API doivent activer explicitement ce mécanisme. Sans cette activation, les appels API bloqués s'arrêtent simplement.

Anthropic souligne que les vérifications de sécurité analysent l'ensemble du contexte ingéré par le modèle, y compris les documents récupérés, les résultats de recherche web et les fichiers connectés. Ainsi, les données tierces extraites par des agents autonomes peuvent déclencher des refus ou des réorientations, même sans consigne directe de l'utilisateur.

Risques d'injection d'instructions liés au basculement

Le mécanisme de basculement implique des compromis de sécurité pour les environnements de production. Lors des tests internes de codage d'Anthropic, 25 % des requêtes envoyées à Sonnet 5.5 ont déclenché des blocages de sécurité cyber et ont été transmises à Sonnet 5, souvent en raison de tentatives d'injection d'instructions visant à effacer des fichiers ou à nettoyer des disques. Parmi ces requêtes redirigées, 12,01 % ont compromis Sonnet 5 avec succès, alors que Sonnet 5.5 lui-même n'a été compromis que dans quatre cas sur 5 901 requêtes directes.

En revanche, un benchmark distinct d'injection indirecte d'instructions mené par la société de sécurité IA Gray Swan n'a montré aucune dégradation de performance lors de l'utilisation du basculement. Anthropic a déclaré ajuster activement ses classificateurs pour réduire les refus faux positifs et prévoit d'inclure Sonnet 5.5 dans son programme étendu Cyber Verification Program afin d'offrir un accès plus large aux spécialistes de la sécurité vérifiés.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: You picked Claude Sonnet 5.5 — but Anthropic may send your request to Sonnet 5