OpenAI interrompe campanha de extração de raciocínio vinculada à Moonshot AI

A OpenAI anunciou ter interrompido uma campanha coordenada de destilação projetada para extrair sistematicamente capacidades ocultas de raciocínio de seus modelos de inteligência artificial. A empresa associou o núcleo principal das atividades a indivíduos afiliados à Moonshot AI, com sede em Pequim, embora não tenha divulgado evidências técnicas específicas para fundamentar a atribuição.

Manipulação de vestígios criptografados de raciocínio

De acordo com a OpenAI, os invasores não violaram bancos de dados internos, não comprometeram a criptografia nem acessaram diretamente conversas de usuários. Em vez disso, a campanha manipulou interações padrão do modelo para forçar a exibição de processos ocultos de raciocínio nas respostas visíveis, violando os termos de serviço da plataforma. A atividade começou com baixo volume em 1º de julho de 2026, antes de atingir um pico nos dias 24 e 25 de julho, com 16.000 solicitações de extração distribuídas por mais de 4.000 contas. Os investigadores identificaram padrões de comando relacionados que englobavam mais de 15.000 usuários antes de interromper totalmente a operação em 28 de julho de 2026.

A técnica baseia-se na destilação adversarial, na qual um agente não autorizado utiliza saídas de um sistema de IA alvo para treinar, aprimorar ou replicar capacidades em outro modelo. A OpenAI corrigiu uma brecha vulnerável que permitia a atacantes em posse do vestígio de raciocínio criptografado de outro usuário reproduzir esse registro e recuperar seu conteúdo em texto claro. A empresa também implementou verificações automatizadas para interceptar respostas em tempo real que tentem expor etapas de raciocínio, além de banir as contas vinculadas à operação.

Vulnerabilidades estruturais e impacto na indústria

A interrupção ocorre após pesquisas acadêmicas publicadas em agosto de 2026 por MATS Research, ELLIS Institute Tübingen e Synk. Os pesquisadores identificaram vulnerabilidades sistêmicas nos modelos GPT, Claude e Gemini, nas quais os registros criptografados de raciocínio permaneciam intercambiáveis entre sessões e usuários. Ao injetar esses registros roubados em modelos mais fracos e menos protegidos dentro do ecossistema do mesmo provedor, os atacantes podiam forçar o sistema a revelar o raciocínio passo a passo sem a necessidade de burlar diretamente o modelo principal.

A OpenAI declarou que a destilação não monitorada apresenta riscos de segurança, pois o raciocínio extraído pode transferir capacidades avançadas — incluindo conhecimentos técnicos de duplo uso — para modelos de terceiros, ignorando filtros de conteúdo e salvaguardas originais. Este incidente marca mais uma disputa de extração envolvendo a Moonshot AI; anteriormente, a Anthropic alegou que a empresa redirecionava comandos de clientes para o Claude a fim de exibir as respostas e reter os diálogos para treinar seus próprios modelos de cadeia de pensamento sob a identificação GTG-16002.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: OpenAI Disrupts Reasoning Extraction Campaign Linked to Moonshot AI Associates