Le commandant des drones ukrainiens prévient que l’humanité perd le contrôle des armes d’IA face à l’autonomie croissante sur le front

Robert « Madyar » Brovdi, commandant des Forces des systèmes sans pilote d'Ukraine, a lancé plusieurs avertissements selon lesquels l'humanité serait en train de perdre le contrôle de l'intelligence artificielle appliquée au domaine militaire, à mesure que les capacités des drones autonomes progressent rapidement sur la ligne de front.

Autonomie sur la ligne de front et réalités du champ de bataille

Selon des rapports, Robert Brovdi a mis en évidence l'intégration rapide de l'intelligence artificielle dans les systèmes robotiques et sans pilote. Il soutient que le rapprochement de ces technologies donne naissance à des armes d'une gestion particulièrement difficile. Des enquêteurs ukrainiens ont notamment rapporté un cas impliquant un drone russe Molniya doté d'un module Nvidia Jetson Orin qui a sélectionné lui-même sa cible finale de manière autonome, provoquant des victimes civiles au niveau d'une station-service située à Zaporijia.

Obstacles diplomatiques et réglementations internationales

Ces avertissements interviennent dans un contexte d'efforts diplomatiques particulièrement lents pour encadrer les armes létales autonomes. Les pourparlers menés sous l'égide de l'Organisation des Nations unies dans le cadre de la Convention sur certaines armes classiques se sont achevés avec un rapport final que l'organisation Human Rights Watch estime profondément affaibli par plusieurs États, dont la Russie et les États-Unis. Une conférence d'examen à venir devra trancher sur l'ouverture de négociations formelles visant à établir des règles contraignantes, une initiative désormais soutenue par des dizaines de pays.

Pressions stratégiques et prévisions antérieures

Tandis que Robert Brovdi exhorte les pays alliés à accélérer la création de branches militaires spécifiquement consacrées aux systèmes sans pilote, plusieurs analystes rappellent que ses prévisions technologiques ont parfois devancé la réalité du terrain. Les précédentes projections annonçant la disparition totale des pilotes humains pour les drones ukrainiens ne se sont pas concrétisées à ce jour, même si les deux belligérants continuent d'élargir le déploiement de l'IA pour le ciblage, l'usage de munitions rôdeuses et la surveillance des lignes de ravitaillement.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: Ukraine drone chief targeted by $20 million Russian bounty warns 'humanity is losing control' as AI becomes a 'digital panopticon'