OpenAI führt textGrain-Wasserzeichen für EU-Nutzer ein – optionale Nutzung für globale API-Kunden

OpenAI führt eine unsichtbare Text-Wasserzeichen-Technologie namens textGrain ein, um die Kennzeichnungspflichten für maschinenlesbaren Text im Rahmen des AI Acts der Europäischen Union zu erfüllen. Die Technologie bettet statistische Signale in die Wortwahl des Modells ein. OpenAI plant, textGrain in den kommenden Wochen für Nutzer von ChatGPT und Codex in der EU zu aktivieren, während für API-Kunden weltweit und über Cloud-Partner wie Microsoft Azure eine optionale Aktivierung angeboten wird.

Differenzierte Einführung in der EU und weltweit

Anders als Anthropic, das eine verpflichtende globale Wasserzeichen-Kennzeichnung für Claude nutzt, trennt OpenAI den Einsatz für Endverbraucher in Europa vom Entwicklerzugang in anderen Regionen. Für EU-Nutzer von ChatGPT und Codex ist das Wasserzeichen standardmäßig aktiviert, wohingegen globale API-Entwickler selbst entscheiden können, ob sie die verborgene Markierung anwenden. OpenAI plant zudem, textGrain als Open-Source-Software zu veröffentlichen, damit Drittanbieter auf der Implementierung aufbauen können.

Umgehungsrisiken und technische Genauigkeit

Die Zuverlässigkeit von textGrain variiert je nach Textlänge und Themengebiet. Interne Tests mit einer Zielrate von 1 Prozent für falsch-positive Ergebnisse ergaben eine Erkennungsrate von 95 Prozent bei 400 Tokens langen Psychologie-Texten, die bei 200-Token-Stichproben auf 80 Prozent sank. Bei mathematischen Inhalten lagen die Erkennungsraten aufgrund eingeschränkter Wortauswahlmöglichkeiten deutlich niedriger. Textanpassungen verringern die Erkennungsleistung ebenfalls: Das Ersetzen von 10 Prozent der Wörter durch Synonyme reduzierte die Erkennung bei 400-Token-Passagen von 92 Prozent auf 66 Prozent, während der Austausch von 25 Prozent die Erkennung auf 17 Prozent senkte. OpenAI weist darauf hin, dass Erkennungssignale weder Eigentum noch Benutzeridentität, menschliche Urheberschaft oder Textgenauigkeit belegen.

Kontrollierter Zugang und Benchmark-Tests

OpenAI beschränkt den Zugang zu seinem textGrain-Detektorwerkzeug in der Anfangsphase. Ausgewählte Forscher und Institutionen müssen sich im Rahmen des EU-Verhaltenskodexes von Fall zu Fall bewerben, da falsch-positive Ergebnisse und unerkannte Wasserzeichen weiterhin technische Risiken darstellen. Unterdessen bleiben bestehende Werkzeuge zur Bild- und Audioüberprüfung auf openai.com/verify der Öffentlichkeit zugänglich. Interne Evaluierungen von OpenAIs Frontier-Modell Astra zeigten bei aktiviertem Wasserzeichen keine signifikanten Abweichungen der Benchmark-Ergebnisse bei Tests wie GPQA Diamond, BrowseComp und DeepSWE.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: OpenAI will watermark ChatGPT text in the EU but makes it optional for API users worldwide