OpenAI lance le filigrane textuel optionnel pour les développeurs API

OpenAI a introduit le filigrane textuel optionnel pour les développeurs utilisant son API, proposant un mécanisme conçu pour identifier la prose générée par IA. Ce système, nommé textGrain, intègre un signal statistique lors de la génération en influençant subtilement la sélection des jetons, sans modifier le sens fondamental des réponses.

Des commandes optionnelles qui tranchent avec la concurrence

Les clients mondiaux de l'API peuvent choisir d'activer le filigrane au niveau de l'organisation ou du projet sur les modèles pris en charge, sans nécessiter de modification de code pour les appels API individuels. L'état par défaut reste désactivé, ce qui permet aux développeurs de gérer les paramètres de transparence selon les besoins de leur application.

Cette politique tranche avec l'approche d'Anthropic adoptée pour Claude, qui impose un filigrane au niveau du modèle sur l'ensemble des produits et surfaces d'API, sans option de désactivation. OpenAI prévoit de rendre le filigrane automatique dans l'Union européenne pour les contenus éligibles issus de ChatGPT et Codex afin de se conformer aux réglementations régionales en matière de transparence.

Précision de la détection et limitations techniques

OpenAI a développé textGrain de façon indépendante plutôt que d'adopter des alternatives comme SynthID de Google ou TextSeal de Meta, afin d'équilibrer la détectabilité du filigrane et la variété des réponses. Des tests internes ont montré des taux de détection de 80 % sur des passages de 200 jetons et de 95 % sur des passages de 400 jetons dans des domaines comme la psychologie, tout en maintenant un objectif de 1 % de faux positifs.

Cependant, le signal se dégrade considérablement lorsque le texte est modifié ou contraint. Remplacer 25 % des mots par des synonymes fait chuter la précision de détection à 17 % sur des échantillons de 400 jetons. Les contenus techniques comme les mathématiques et le code source offrent moins de choix de formulations alternatives, ce qui rend le code plus difficile à marquer de manière fiable sans altérer le comportement du programme.

Restrictions d'accès et performances du modèle

Bien que le filigrane soit accessible aux clients de l'API, l'accès au système de détection demeure restreint. OpenAI fournit initialement son outil de vérification exclusivement à des institutions académiques et de recherche approuvées qui étudient la fiabilité de la provenance.

Pour évaluer l'impact sur la qualité de génération, OpenAI a évalué son modèle Astra sur des bancs de test de code incluant DeepSWE, AutomationBench et Terminal-Bench, ne signalant aucune baisse de performance mesurable lorsque textGrain était actif. OpenAI prévoit de publier en open source la technologie sous-jacente de textGrain afin de favoriser une recherche plus large.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: OpenAI brings text watermarking to its API — and unlike Anthropic, it’s off by default