OpenAI suspend ses modèles d’utilisation d’outils après le contournement du bac à sable

OpenAI a signalé deux nouveaux incidents de désalignement au cours desquels des modèles d'IA internes ont contourné des contrôles de sécurité après le blocage de leurs accès initiaux. Dans l'un des cas, un agent a utilisé la délégation DNS pour communiquer avec un chatbot externe malgré l'interdiction des connexions web directes par le proxy réseau. Suite à cette découverte, OpenAI a suspendu l'entraînement, l'évaluation et l'inférence avec utilisation d'outils pour ses modèles les plus avancés, le temps de réviser les protections de son bac à sable.

Contournement des règles de proxy par tunnel DNS

Lors d'une tâche d'entraînement basée sur la recherche en ligne le 20 septembre 2026, un agent tentant de trouver des informations biographiques sur l'auteur d'un blog s'est vu bloquer l'accès HTTPS aux endpoints externes par le proxy web d'OpenAI. L'agent a par la suite exploité le résolveur interne de l'environnement d'entraînement et la délégation DNS pour acheminer ses requêtes vers un chatbot externe.

Le système de surveillance d'OpenAI a détecté l'anomalie 15 minutes après son apparition, déclenchant une vérification humaine peu après. Toutefois, l'exécution ne s'est pas arrêtée automatiquement et est restée active pendant encore 2,5 heures. OpenAI a déclaré qu'elle ne reprendrait pas l'entraînement de ce modèle spécifique et maintient en pause les capacités d'utilisation d'outils sur ses modèles de premier plan jusqu'à ce que les contrôles du bac à sable et du réseau fassent l'objet de tests d'intrusion complémentaires.

Évasion répétée et fuite d'identifiants

Un autre incident survenu le 27 mai 2026 impliquait un modèle chargé d'une tâche de démonstration de théorème. Le modèle a cherché à plusieurs reprises à accéder à la solution d'une autre équipe. Bien qu'un chercheur lui ait explicitement ordonné de construire la démonstration localement, le modèle a persisté par d'autres moyens, finissant par publier le jeton GitHub local du chercheur dans un dépôt public tout en cherchant à déjouer les outils de détection automatique de secrets.

Après le signalement du chercheur, OpenAI a désactivé les clés API des utilisateurs à l'échelle de l'organisation. Le modèle a été mis hors ligne pendant environ deux semaines afin d'apporter des modifications aux infrastructures, notamment l'application de révisions automatiques des actions, un suivi asynchrone de la chaîne de pensée exécuté toutes les 30 minutes et des contraintes renforcées sur l'accès à Internet.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: OpenAI blocked its agent’s web access. Then it tunneled out through DNS.