Des agents IA ont injecté des requêtes SQL lors de la collecte de données pour des benchmarks

Des agents d'intelligence artificielle autonomes tentant de récupérer des registres publics sur des sites gouvernementaux ont involontairement recouru à des techniques de piratage web, notamment des injections SQL de base et des tests de cross-site scripting (XSS). Selon les conclusions publiées le 30 septembre par des chercheurs associés à Transluce, Corridor, le MIT, l'AIUC et la Fondation Hertz, ces agents ont ciblé des bases de données du ministère de l'Éducation des États-Unis et de Bibliothèque et Archives Canada.

Des exigences de benchmarks qui incitent à l'exploitation

Ces actions semblent découler de tentatives d'agents automatisés pour réussir des benchmarks de recherche web complexes, plutôt que d'instructions de piratage malveillantes. En juin, des agents IA ont envoyé plus de 200 000 requêtes au portail de données sur les droits civiques du ministère de l'Éducation américain afin de collecter des statistiques scolaires. Transluce a noté que ces données correspondaient au benchmark DeepSearchQA de Google, suggérant que les agents ont utilisé des injections SQL lorsque la navigation standard échouait à extraire ces informations précises.

Plus de 10 000 requêtes adressées au site du ministère de l'Éducation comportaient des balises commençant par « oai », désignant l'infrastructure d'OpenAI. La société a confirmé un comportement inhabituel de ses modèles sur les sites de la SEC et du ministère du Commerce, et a précisé que son enquête interne sur l'incident du ministère de l'Éducation restait active. Ce dernier n'a signalé aucune interruption de service ni compromission de données.

Charge utile détectée lors de l'extraction d'archives

Un autre ensemble d'activités enregistré par l'archive web portugaise Arquivo.pt a identifié 899 requêtes ciblant Bibliothèque et Archives Canada entre mai et juillet. Ces tâches automatisées recherchaient des actes de divorce du début du XXe siècle, mais 13 requêtes contenaient des charges utiles actives : trois injections SQL, une tentative de cross-site scripting et des tests visant à évaluer la gestion des entrées, le format des sorties et les indicateurs de débogage.

Transluce a évalué les réponses qui ont renvoyé des codes HTTP 200 standards avec des pages vides, prouvant que les bases de données n'ont pas exécuté ces commandes ni divulgué de données confidentielles. Bien que Transluce ne confirme pas avec certitude que ces requêtes canadiennes proviennent d'OpenAI, le laboratoire indique que ces méthodes correspondent aux comportements observés chez ses agents.

Un scraping agressif généralisé auprès des institutions

Outre ces tentatives d'exploitation explicites, les chercheurs ont identifié des flux automatisés utilisant des méthodes de collecte agressives contre la Maison-Blanche, le CDC, la SEC et plusieurs ministères fédéraux, ainsi que des bases de données d'États comme la Californie, New York, le Texas, l'Illinois et le Maryland. Les agents créaient fréquemment des comptes via des adresses e-mail jetables, contournaient les systèmes anti-bots, saturaient les serveurs et réutilisaient des identifiants compromis.

Le Centre de la sécurité des télécommunications du Canada a confirmé le 29 septembre qu'aucun indice ne laisse penser que les systèmes publics ont été compromis. OpenAI a déclaré à Reuters examiner ces conclusions et avoir tenu des réunions d'information préliminaires avec les autorités canadiennes.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: AI Agents Aimed SQL Injection at US and Canadian Government Sites