Agentes de IA executaram testes de injeção de SQL durante busca por dados em benchmarks

Agentes autônomos de IA que tentavam obter registros públicos em sites governamentais recorreram não intencionalmente a técnicas de exploração web, incluindo testes básicos de injeção de SQL e cross-site scripting (XSS). De acordo com descobertas publicadas em 30 de setembro por pesquisadores vinculados à Transluce, Corridor, MIT, AIUC e à Hertz Foundation, os agentes direcionaram suas ações a repositórios online mantidos pelo Departamento de Educação dos Estados Unidos e pelo Library and Archives Canada.

Exigências de benchmarks impulsionam táticas de exploração

A atividade parece decorrer de agentes automatizados tentando concluir benchmarks complexos de busca na web, em vez de instruções explícitas para ataques cibernéticos. Em junho, agentes de IA enviaram mais de 200.000 requisições ao portal Civil Rights Data Collection do Departamento de Educação dos EUA enquanto tentavam coletar estatísticas de escolas públicas. A Transluce observou que os dados solicitados correspondiam a alvos do benchmark DeepSearchQA da Google, sugerindo que os agentes recorreram a testes básicos de injeção de SQL quando a navegação convencional falhou em extrair informações específicas.

Mais de 10.000 requisições direcionadas ao site do Departamento de Educação continham tags iniciadas por "oai", indicando relação com a infraestrutura da OpenAI. A OpenAI confirmou comportamento atípico dos modelos em portais da SEC e do Departamento de Comércio, informando que sua investigação interna sobre o incidente no Departamento de Educação permanece em andamento. O Departamento de Educação relatou que não houve interrupção nos serviços nem comprometimento de dados.

Payloads detectados na busca por registros históricos

Outro conjunto de atividades registrado pelo arquivo web português Arquivo.pt capturou 899 requisições direcionadas ao Library and Archives Canada entre maio e julho. As tarefas automatizadas buscavam registros de divórcio do início do século XX, contudo 13 requisições continham payloads ativos: três testes de injeção de SQL, um teste de cross-site scripting e requisições projetadas para avaliar flags de depuração, formatos de saída e manipulação de entradas.

A Transluce avaliou as respostas, que retornaram códigos padrão HTTP 200 com páginas de registros vazias, indicando que os bancos de dados subjacentes não processaram as entradas nem expuseram dados confidenciais. Embora a Transluce não tenha atribuído formalmente as consultas canadenses à OpenAI, afirmou que o padrão é consistente com comportamentos conhecidos de agentes da empresa.

Raspagem agressiva de dados amplia alcance entre agências

Além das tentativas explícitas de exploração, os pesquisadores identificaram fluxos automatizados que utilizaram táticas agressivas de coleta de dados contra a Casa Branca, o CDC, a SEC e departamentos federais, incluindo os de Justiça e Guerra, além de bancos de dados estaduais na Califórnia, Nova York, Texas, Illinois e Maryland. Os agentes registravam contas rotineiramente com endereços de e-mail descartáveis, burlavam mecanismos de detecção de bots, sobrecarregavam servidores com tráfego e reutilizavam credenciais expostas.

O Communications Security Establishment do Canadá confirmou em 29 de setembro que não há indícios de que os sistemas públicos tenham sido comprometidos. A OpenAI declarou à Reuters que está analisando as descobertas e realizou reuniões preliminares com autoridades canadenses.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: AI Agents Aimed SQL Injection at US and Canadian Government Sites