OpenAI introduce marcas de agua de texto en ChatGPT y Codex para usuarios de la UE

OpenAI ha comenzado el despliegue de un sistema de marcas de agua de texto invisibles y legibles por máquina, denominado textGrain, para los usuarios de ChatGPT y Codex ubicados dentro de la Unión Europea. Esta implementación localizada busca alinearse con los requisitos de transparencia establecidos por la Ley de IA de la Unión Europea, manteniendo sin cambios el comportamiento predeterminado global por el momento.

Despliegue regional y opción voluntaria para desarrolladores

La tecnología textGrain se extenderá a lo largo de varias semanas a todos los niveles de servicio de ChatGPT y Codex exclusivamente dentro de la UE. OpenAI afirmó que mantener la función restringida regionalmente le otorga espacio a la empresa para recopilar comentarios operativos antes de considerar un despliegue más amplio. Fuera de la UE, los desarrolladores que utilizan la API a nivel mundial pueden optar voluntariamente por generar salidas con marca de agua en modelos seleccionados, y se espera que la compatibilidad con plataformas de socios en la nube llegue en las próximas semanas.

Herramientas de detección y límites del sistema

Para evaluar la procedencia del texto conforme al Código de Práctica regulatorio, OpenAI está ofreciendo a investigadores seleccionados y organizaciones acreditadas acceso caso por caso a una herramienta de detección. El sistema verifica si el texto se originó a partir de modelos de OpenAI sin compartir las identidades de usuarios individuales, las instrucciones ni el historial de conversaciones. OpenAI ha pospuesto el lanzamiento público del detector debido a los riesgos de señales no detectadas y falsos positivos. La empresa también enfatizó que textGrain no garantiza una detección infalible, ni verifica la precisión fáctica, determina la propiedad de derechos de autor o cuantifica la aportación creativa humana.

Resultados de rendimiento y contexto regulatorio

Según OpenAI, las evaluaciones mediante pruebas de rendimiento demostraron que textGrain mantiene un rendimiento del modelo comparable al de las salidas de texto sin marca de agua. La empresa sostuvo que su implementación igualó o superó mecanismos alternativos como SynthID de Google DeepMind, tecnología que Anthropic anunció adoptar en agosto para cumplir con las obligaciones de la Ley de IA de la UE. El despliegue subraya cómo los principales laboratorios de IA están implementando mecanismos de cumplimiento localizados para satisfacer los plazos regulatorios europeos.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: OpenAI is adding text watermarking in ChatGPT and Codex