OpenAI interrompt une campagne d’extraction de raisonnement liée à des affiliés de Moonshot AI

OpenAI a annoncé avoir démantelé une campagne coordonnée de distillation conçue pour extraire systématiquement les capacités de raisonnement masquées de ses modèles d'intelligence artificielle. L'entreprise a relié un noyau central de cette activité à des individus affiliés à la société péchinoise Moonshot AI, bien qu'OpenAI n'ait pas publié de preuves techniques spécifiques concernant cette attribution.

Manipulation des traces de raisonnement chiffrées

Selon OpenAI, les acteurs de la menace n'ont pas compromis de bases de données internes, violé le chiffrement ni accédé directement aux conversations des utilisateurs. La campagne a plutôt manipulé les interactions standard avec le modèle pour forcer l'affichage de processus de raisonnement masqués dans les réponses visibles, en violation des conditions d'utilisation de la plateforme. L'activité a débuté à faible volume le 1er juillet 2026, avant de connaître un pic les 24 et 25 juillet avec 16 000 requêtes d'extraction réparties sur plus de 4 000 comptes. Les enquêteurs ont finalement détecté des schémas d'invites similaires s'étendant à plus de 15 000 utilisateurs avant de bloquer l'opération le 28 juillet 2026.

La technique s'appuie sur la distillation contradictoire, où un acteur non autorisé utilise les traces générées par un système d'IA cible pour entraîner, affiner ou répliquer des capacités dans un autre modèle. OpenAI a comblé une vulnérabilité qui permettait auparavant à un attaquant en possession de la trace de raisonnement chiffrée d'un autre utilisateur de la rejouer afin d'en récupérer le contenu en clair. L'entreprise a également mis en place des contrôles automatisés pour intercepter les réponses en flux tentant d'exposer des étapes de raisonnement, tout en bannissant les comptes associés à l'opération.

Vulnérabilités globales des modèles et impact sur l'industrie

Cette neutralisation s'inscrit dans le contexte de recherches académiques plus larges menées en août 2026 par MATS Research, l'ELLIS Institute Tübingen et Synk. Les chercheurs ont identifié des vulnérabilités systémiques au sein des modèles GPT, Claude et Gemini, où les traces de raisonnement chiffrées restaient interchangeables d'une session et d'un utilisateur à l'autre. En injectant des traces dérobées dans des modèles plus faibles et moins protégés du même écosystème, des attaquants pouvaient forcer le système à révéler le raisonnement étape par étape sans contourner directement les protections du modèle principal.

OpenAI a souligné que la distillation non contrôlée présente des risques de sécurité, car le raisonnement extrait peut transférer des compétences avancées — y compris à double usage — vers des modèles tiers tout en ignorant les garde-fous et filtres de sécurité d'origine. Cet incident marque un nouveau différend lié à l'extraction impliquant Moonshot AI ; Anthropic avait précédemment accusé l'entreprise d'avoir redirigé des demandes de clients vers Claude pour fournir les réponses et conserver les dialogues afin d'entraîner ses propres modèles de chaîne de pensée sous l'identifiant de suivi GTG-16002.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: OpenAI Disrupts Reasoning Extraction Campaign Linked to Moonshot AI Associates