OpenAI lance le tatouage textGrain pour l’UE avec activation optionnelle de l’API dans le monde

OpenAI introduit une technologie invisible de marquage de texte appelée textGrain afin de se conformer aux règles d'étiquetage lisibles par machine du règlement de l'Union européenne sur l'IA. Cette technologie intègre des signaux statistiques directement dans le choix des mots par le modèle. OpenAI prévoit d'activer textGrain pour les utilisateurs de ChatGPT et Codex au sein de l'UE au cours des prochaines semaines, tout en proposant un filigranage optionnel pour les clients d'API à travers le monde ainsi que via des partenaires cloud comme Microsoft Azure.

Déploiement différencié entre l'UE et le reste du monde

Contrairement au filigranage mondial obligatoire d'Anthropic pour Claude, OpenAI sépare le déploiement grand public en Europe de l'accès pour les développeurs dans le reste du monde. Les utilisateurs européens accédant à ChatGPT et Codex verront le filigranage activé par défaut, mais les développeurs utilisant l'API à l'échelle mondiale pourront choisir d'appliquer ou non cette marque invisible. OpenAI prévoit également de publier textGrain en tant que logiciel open source pour permettre à des tiers d'enrichir cette implémentation.

Risques de contournement et précision technique

La fiabilité de textGrain varie selon la longueur des passages et le sujet traité. Des tests internes utilisant un taux cible de faux positifs de 1 % ont affiché un taux de détection de 95 % sur des extraits de psychologie de 400 tokens, tombant à 80 % pour des échantillons de 200 tokens. Les taux de détection se sont révélés nettement inférieurs pour les contenus mathématiques en raison d'un vocabulaire plus restreint. Les modifications apportées au texte réduisent également les performances de détection : le remplacement de 10 % des mots par des synonymes fait chuter la détection sur les passages de 400 tokens de 92 % à 66 %, tandis qu'une substitution de 25 % la fait tomber à 17 %. OpenAI souligne que les signaux de détection n'établissent pas la propriété, l'identité de l'utilisateur, l'auteur humain ou l'exactitude du texte.

Accès contrôlé et bancs de test

OpenAI limite l'accès à son outil de détection textGrain durant sa phase initiale. Les chercheurs et institutions sélectionnés doivent effectuer une demande au cas par cas dans le cadre du code de pratique de l'UE, les faux positifs et les filigranes manqués demeurant des risques techniques. En parallèle, les outils de vérification existants pour les images et l'audio sur openai.com/verify restent accessibles au public. Des évaluations internes menées sur le modèle de pointe Astra d'OpenAI n'ont montré aucune variation significative des scores aux bancs de test lorsque le filigranage est activé, notamment sur GPQA Diamond, BrowseComp et DeepSWE.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: OpenAI will watermark ChatGPT text in the EU but makes it optional for API users worldwide