OpenAI lance le tatouage numérique de texte dans ChatGPT et Codex pour l’UE

OpenAI a commencé le déploiement d'un système de tatouage numérique de texte invisible et lisible par machine, nommé textGrain, pour les utilisateurs de ChatGPT et Codex situés dans l'Union européenne. Ce déploiement localisé vise à s'aligner sur les exigences de transparence établies par le règlement européen sur l'IA, tout en conservant pour le moment le comportement par défaut au niveau mondial.

Déploiement régional et options pour les développeurs

La technologie textGrain s'étendra sur plusieurs semaines à toutes les offres de ChatGPT et Codex, exclusivement au sein de l'UE. OpenAI a déclaré que cette limitation régionale permet à l'entreprise de recueillir des retours opérationnels avant d'envisager un déploiement plus large. En dehors de l'UE, les développeurs utilisant l'API dans le monde entier peuvent choisir d'activer volontairement les filigranes sur les textes générés pour certains modèles, l'intégration sur les plateformes partenaires dans le cloud étant prévue dans les semaines à venir.

Outils de détection et limites du système

Afin d'évaluer la provenance des textes dans le cadre du code de bonne pratique réglementaire, OpenAI propose à un panel restreint de chercheurs et d'organisations accréditées un accès au cas par cas à un outil de détection. Ce système vérifie si un texte provient des modèles d'OpenAI sans révéler l'identité des utilisateurs, les requêtes ou l'historique des conversations. OpenAI ne rend pas cet outil public pour le moment en raison des risques de faux négatifs et de faux positifs. L'entreprise souligne également que textGrain ne garantit pas une détection infaillible, ne vérifie pas l'exactitude factuelle, ne détermine pas le droit d'auteur et ne mesure pas l'apport créatif humain.

Performances et contexte réglementaire

Selon OpenAI, les évaluations sur bancs de test indiquent que textGrain maintient des performances comparables à celles des textes non tatoués. L'entreprise affirme que sa mise en œuvre égale ou dépasse les mécanismes alternatifs tels que SynthID de Google DeepMind, qu'Anthropic a annoncé adopter en août pour se conformer aux obligations du règlement européen sur l'IA. Ce déploiement illustre la manière dont les principaux laboratoires d'IA mettent en place des mécanismes de conformité localisés afin de respecter les échéances réglementaires européennes.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: OpenAI is adding text watermarking in ChatGPT and Codex