OpenAI führt Text-Wasserzeichen in ChatGPT und Codex für EU-Nutzer ein

OpenAI hat mit der schrittweisen Einführung eines unsichtbaren, maschinenlesbaren Text-Wasserzeichensystems namens textGrain für Nutzer von ChatGPT und Codex innerhalb der Europäischen Union begonnen. Die regionale Bereitstellung zielt darauf ab, den im EU AI Act festgelegten Transparenzanforderungen zu entsprechen, während das weltweite Standardverhalten vorerst unverändert bleibt.

Regionale Einführung und Entwickler-Opt-ins

Die Technologie textGrain wird über mehrere Wochen hinweg auf alle ChatGPT- und Codex-Dienstebenen ausschließlich innerhalb der EU ausgeweitet. OpenAI erklärte, dass die regionale Beschränkung der Funktion dem Unternehmen Raum gibt, betriebliches Feedback zu sammeln, bevor eine breitere Bereitstellung in Betracht gezogen wird. Außerhalb der EU können sich API-Entwickler weltweit freiwillig für mit Wasserzeichen versehene Ausgaben ausgewählter Modelle entscheiden; eine entsprechende Unterstützung auf den Plattformen von Cloud-Partnern wird für die folgenden Wochen erwartet.

Erkennungswerkzeuge und Systemgrenzen

Um die Herkunft von Texten im Rahmen des regulatorischen Verhaltenskodexes zu bewerten, gewährt OpenAI ausgewählten Forschern und akkreditierten Organisationen im Einzelfall Zugang zu einem Erkennungswerkzeug. Das System prüft, ob ein Text von OpenAI-Modellen stammt, ohne individuelle Nutzeridentitäten, Prompts oder den Gesprächsverlauf preiszugeben. OpenAI verzichtet vorerst auf eine öffentliche Freigabe des Detektors, da das Risiko von nicht erkannten Signalen und falschen Positivmeldungen besteht. Das Unternehmen betonte zudem, dass textGrain weder eine fehlerfreie Erkennung garantiert noch die inhaltliche Richtigkeit prüft, Urheberrechte bestimmt oder den menschlichen kreativen Beitrag quantifiziert.

Leistungsvergleiche und regulatorischer Kontext

Laut OpenAI haben Benchmark-Analysen gezeigt, dass textGrain eine Modellleistung beibehält, die mit nicht mit Wasserzeichen versehenen Textausgaben vergleichbar ist. Das Unternehmen behauptet, dass die Implementierung mit alternativen Mechanismen wie SynthID von Google DeepMind gleichzieht oder diese übertrifft – eine Technologie, deren Übernahme Anthropic im August angekündigt hatte, um den Verpflichtungen des EU AI Act nachzukommen. Die Einführung unterstreicht, wie führende KI-Labore funktionale Compliance-Mechanismen auf regionaler Ebene umsetzen, um den europäischen Regulierungsfristen gerecht zu werden.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: OpenAI is adding text watermarking in ChatGPT and Codex