OpenAI lança marca-d’água de texto no ChatGPT e Codex para usuários da UE

A OpenAI começou a implantar um sistema invisível e legível por máquina de marca-d'água de texto, batizado de textGrain, para usuários do ChatGPT e do Codex situados na União Europeia. A implantação localizada busca atender aos requisitos de transparência estabelecidos pela Lei de IA da União Europeia, enquanto mantém o comportamento padrão global inalterado por enquanto.

Implantação regional e opção de adesão para desenvolvedores

A tecnologia textGrain será expandida ao longo de várias semanas para todas as faixas de serviço do ChatGPT e do Codex exclusivamente na União Europeia. A OpenAI afirmou que manter o recurso restrito regionalmente dá à empresa margem para coletar feedback operacional antes de considerar uma distribuição mais ampla. Fora da UE, desenvolvedores de API em todo o mundo podem optar voluntariamente por saídas com marca-d'água para modelos selecionados, com previsão de suporte em plataformas de parceiros de nuvem nas próximas semanas.

Ferramenta de detecção e limites do sistema

Para avaliar a procedência do texto sob o Código de Prática regulatório, a OpenAI está oferecendo acesso caso a caso a uma ferramenta de detecção para pesquisadores selecionados e organizações credenciadas. O sistema verifica se o texto foi gerado por modelos da OpenAI sem compartilhar identidades individuais de usuários, comandos ou histórico de conversas. A OpenAI está retendo o lançamento público do detector devido aos riscos de falhas na detecção e falsos positivos. A empresa também enfatizou que o textGrain não garante uma detecção infalível, tampouco verifica a exatidão factual, determina a propriedade de direitos autorais ou quantifica a contribuição criativa humana.

Desempenho e contexto regulatório

De acordo com a OpenAI, avaliações em testes de desempenho mostraram que o textGrain mantém um desempenho de modelo comparável às saídas de texto sem marca-d'água. A empresa afirmou que a implementação igualou ou superou mecanismos alternativos, como o SynthID da Google DeepMind, que a Anthropic anunciou adotar em agosto para cumprir as obrigações da Lei de IA da União Europeia. A implantação destaca como os principais laboratórios de IA estão implementando mecanismos de conformidade localizados para satisfazer os prazos regulatórios europeus.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: OpenAI is adding text watermarking in ChatGPT and Codex