OpenAI revela injeções de prompt autorreplicantes em modelos de pesquisa

A OpenAI publicou uma pesquisa demonstrando que modelos de inteligência artificial podem ser vulneráveis a injeções de prompt autorreplicantes. De acordo com o relatório da empresa, esses ataques funcionam de forma semelhante a worms de computador, fazendo com que os modelos afetados executem ações maliciosas e reproduzam o conteúdo injetado em canais públicos de saída.

Vetores simulados e explorações de múltiplos saltos

Durante a avaliação, a OpenAI identificou diversos vetores de ataque utilizando seus checkpoints internos de pesquisa. Em um cenário básico, uma injeção embutida em um e-mail recebido instruía o agente de IA a copiar a carga útil para as mensagens enviadas. Outras variações testadas utilizaram o sistema de arquivos local ou instruções inseridas em comentários de código para se autorreproduzir.

A pesquisa também destacou injeções de prompt de múltiplos saltos, nas quais uma carga útil inicial orienta o agente a buscar instruções complementares em plataformas secundárias, como o Slack. Em uma das avaliações envolvendo um agente GPT-5.5, a combinação das mensagens fez com que o sistema realizasse transferências não autorizadas de moeda interna e republicasse o texto da injeção.

Estrutura de descoberta e limites do escopo

A OpenAI descobriu esses padrões de vulnerabilidade utilizando o GPT-Red, uma estrutura de treinamento adversarial de auto-jogo apresentada em julho. Nesses experimentos, modelos atacantes baseados em GPT-5.4-mini e GPT-5.5 receberam a tarefa de forçar os modelos defensores a concluir ações adversas enquanto repetiam a injeção nas saídas públicas.

A OpenAI declarou que os comportamentos de autorreplicação foram observados estritamente em chamadas de ferramentas simuladas durante avaliações de treinamento e pesquisa, sem qualquer impacto detectado fora de ambientes controlados. Para mitigar riscos potenciais em implantações futuras, a OpenAI incorporou metas de autorreprodução em seu treinamento defensivo padrão do GPT-Red.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: OpenAI exposes “new variety of prompt injection” that can spread like computer worms