OpenAI lança marca d’água de texto opcional para desenvolvedores via API

A OpenAI lançou uma marca d'água de texto opcional para desenvolvedores que utilizam sua API, introduzindo um mecanismo projetado para identificar prosas geradas por IA. O sistema, chamado textGrain, insere um sinal estatístico durante a geração ao influenciar sutilmente a seleção de tokens, sem alterar o sentido principal das respostas.

Controles opcionais contrastam com abordagens concorrentes

Clientes globais da API podem optar por ativar a marca d'água no nível da organização ou do projeto em modelos compatíveis, sem a necessidade de alterações individuais no código das chamadas de API. O estado padrão permanece desativado, permitindo que os desenvolvedores gerenciem as configurações de transparência de acordo com as necessidades de suas aplicações.

Essa política contrasta com a abordagem da Anthropic para o Claude, que impõe a marca d'água no nível do modelo em todos os produtos e superfícies de API, sem mecanismo de desativação. A OpenAI planeja tornar a marca d'água automática na União Europeia para saídas elegíveis do ChatGPT e do Codex, visando cumprir as regulamentações regionais de transparência.

Precisão de detecção e limitações técnicas

A OpenAI desenvolveu o textGrain de forma independente em vez de adotar alternativas como o SynthID do Google ou o TextSeal da Meta, com o objetivo de equilibrar a visibilidade da marca d'água e a variedade das respostas. Testes internos mostraram taxas de detecção de 80% em trechos de 200 tokens e de 95% em trechos de 400 tokens em áreas como a psicologia, mantendo uma taxa de falsos positivos alvo de 1%.

No entanto, o sinal se degrada significativamente quando o texto é editado ou limitado. Substituir 25% das palavras por sinônimos reduz a precisão da detecção para 17% em amostras de 400 tokens. Conteúdos técnicos, como matemática e código-fonte, oferecem menos opções de reformulação, tornando o código mais difícil de marcar de forma confiável sem alterar o comportamento do programa.

Restrições de acesso e desempenho do modelo

Apesar de a marca d'água estar disponível para clientes da API, o acesso à detecção é restrito. Inicialmente, a OpenAI está fornecendo sua ferramenta de verificação exclusivamente para instituições acadêmicas e de pesquisa credenciadas que estudam a confiabilidade da procedência.

Para avaliar o impacto na qualidade da geração, a OpenAI testou seu modelo Astra em testes de desempenho de codificação, incluindo DeepSWE, AutomationBench e Terminal-Bench, não relatando nenhuma queda mensurável no desempenho com o textGrain ativo. A OpenAI planeja disponibilizar a tecnologia subjacente do textGrain como código aberto para pesquisas mais amplas.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: OpenAI brings text watermarking to its API — and unlike Anthropic, it’s off by default