OpenAI presenta la marca de agua textGrain para usuarios de la UE con opción voluntaria en su API global

OpenAI está introduciendo una tecnología invisible de marca de agua de texto denominada textGrain para cumplir con las normas de etiquetado de texto legible por máquina bajo la Ley de Inteligencia Artificial de la Unión Europea. La tecnología inserta señales estadísticas en las selecciones de palabras del modelo. OpenAI prevé activar textGrain para los usuarios de ChatGPT y Codex dentro de la UE durante las próximas semanas, al tiempo que ofrecerá la marca de agua de forma optativa para los clientes de su API a nivel mundial y mediante socios en la nube como Microsoft Azure.

Despliegue diferenciado entre la UE y el resto del mundo

A diferencia del sistema obligatorio a nivel global implementado por Anthropic para Claude, OpenAI separa el despliegue para usuarios finales en Europa del acceso para desarrolladores en el resto del mundo. Los usuarios de la UE que accedan a ChatGPT y Codex tendrán la marca de agua activada por defecto, pero los desarrolladores globales de la API podrán elegir si aplican o no esta marca oculta. OpenAI también planea publicar textGrain como software de código abierto para que terceros puedan desarrollar sobre su implementación.

Riesgos de evasión y precisión técnica

La fiabilidad de textGrain varía según la longitud del texto y la materia tratada. En pruebas internas con una tasa objetivo de falsos positivos del 1 por ciento, se alcanzó una tasa de detección del 95 por ciento en pasajes de 400 tokens sobre psicología, la cual descendió al 80 por ciento en muestras de 200 tokens. Las tasas de detección fueron significativamente menores en contenidos de matemáticas debido a las opciones limitadas de vocabulario. Las modificaciones en el texto también reducen el rendimiento de la detección: sustituir un 10 por ciento de las palabras por sinónimos redujo la detección en fragmentos de 400 tokens del 92 por ciento al 66 por ciento, mientras que reemplazar el 25 por ciento disminuyó la tasa al 17 por ciento. OpenAI señala que las señales de detección no establecen propiedad, identidad del usuario, autoría humana ni la exactitud del texto.

Acceso controlado y pruebas de rendimiento

OpenAI está restringiendo el acceso a su herramienta de detección de textGrain durante la fase inicial. Los investigadores e instituciones seleccionados deben solicitar acceso caso por caso según el Código de Prácticas de la UE, ya que los falsos positivos y las marcas no detectadas siguen siendo riesgos técnicos. Mientras tanto, las herramientas de verificación de imagen y audio en openai.com/verify continúan disponibles de forma pública. Las evaluaciones internas en Astra, el modelo frontera de OpenAI, no mostraron variaciones significativas en las puntuaciones de las pruebas de rendimiento con la marca de agua activada en evaluaciones como GPQA Diamond, BrowseComp y DeepSWE.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: OpenAI will watermark ChatGPT text in the EU but makes it optional for API users worldwide