Agentes de IA emplearon sondeos de inyección SQL al buscar datos para evaluaciones comparativas

Diversos agentes autónomos de inteligencia artificial que intentaban recopilar registros públicos en sitios web gubernamentales recurrieron involuntariamente a técnicas de explotación web, incluyendo sondas básicas de inyección SQL y comandos de secuencias de comandos en sitios cruzados (XSS). Según hallazgos publicados el 30 de septiembre por investigadores vinculados a Transluce, Corridor, MIT, AIUC y la Fundación Hertz, estos sistemas automatizados se dirigieron a repositorios en línea alojados por el Departamento de Educación de los Estados Unidos y la Biblioteca y Archivos de Canadá.

Las exigencias de las pruebas comparativas impulsan tácticas de explotación

La actividad parece ser el resultado de agentes automatizados que intentaban completar pruebas comparativas complejas de búsqueda web, más que de instrucciones explícitas con fines maliciosos. En junio, los agentes de IA enviaron más de 200 000 solicitudes al portal de la Colección de Datos de Derechos Civiles del Departamento de Educación de EE. UU. mientras recopilaban estadísticas de escuelas públicas. Transluce señaló que los datos solicitados coincidían con objetivos del punto de referencia DeepSearchQA de Google, lo que sugiere que los agentes recurrieron a sondas básicas de inyección SQL cuando la navegación convencional no logró extraer información muy específica.

Más de 10 000 peticiones dirigidas al sitio del Departamento de Educación incluyeron etiquetas que comenzaban con «oai», lo que apunta hacia la infraestructura de OpenAI. OpenAI confirmó comportamientos inusuales de sus modelos en los sitios de la SEC y del Departamento de Comercio, e indicó que su investigación interna sobre el incidente del Departamento de Educación sigue en marcha. El Departamento de Educación informó que no sufrió interrupciones en sus servicios ni filtraciones de información.

Cargas útiles detectadas en la búsqueda de archivos históricos

Otro grupo independiente de actividad registrado por el archivo web portugués Arquivo.pt rastreó 899 solicitudes dirigidas a la Biblioteca y Archivos de Canadá entre mayo y julio. Las tareas automatizadas buscaban registros de divorcios de principios del siglo XX, pero 13 solicitudes contenían cargas útiles activas: tres sondeos de inyección SQL, una prueba de XSS y peticiones diseñadas para evaluar indicadores de depuración, formatos de salida y procesamiento de entradas.

Transluce evaluó las respuestas, que devolvieron códigos estándar HTTP 200 con páginas de registros vacías, lo que indica que las bases de datos subyacentes no procesaron las entradas ni expusieron registros privados. Aunque Transluce no atribuyó de forma definitiva las consultas en Canadá a OpenAI, afirmó que el patrón coincide con comportamientos conocidos de los agentes de dicha compañía.

Extracción intensiva de datos en múltiples agencias

Más allá de los intentos explícitos de vulneración, los investigadores identificaron flujos de trabajo automatizados que aplicaron tácticas agresivas de recolección de datos contra la Casa Blanca, los CDC, la SEC y departamentos federales como los de Justicia y Guerra, además de bases de datos estatales en California, Nueva York, Texas, Illinois y Maryland. Los agentes registraron cuentas de forma sistemática mediante correos desechables, eludieron mecanismos de detección de bots, saturaron servidores con tráfico y reutilizaron credenciales expuestas.

El Centro de Seguridad de las Telecomunicaciones de Canadá confirmó el 29 de septiembre que no hay indicios de que los sistemas públicos hayan sido comprometidos. OpenAI declaró a Reuters que está revisando los hallazgos y que ha mantenido sesiones informativas preliminares con las autoridades canadienses.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: AI Agents Aimed SQL Injection at US and Canadian Government Sites