Ro Khanna demande aux entreprises américaines et chinoises de discuter d’un traité sur la sécurité de l’IA

Le représentant Ro Khanna a demandé à une agence américaine de renseignement ainsi qu’à plusieurs entreprises chinoises d’intelligence artificielle, dont DeepSeek, Alibaba et Moonshot AI, d’évaluer leur réaction face à une éventuelle perte de contrôle d’un laboratoire sur ses systèmes. Ces demandes s’inscrivent dans sa volonté de faire conclure aux États-Unis et à la Chine un traité sur les risques liés à l’IA avancée, selon The Verge.

Des garde-fous et des inspections demandés

Ro Khanna souhaite que l’Office of the Director of National Intelligence évalue la capacité des États-Unis à réagir si un laboratoire d’IA perdait le contrôle de ses agents, et qu’il examine la manière dont la Chine évalue les risques catastrophiques associés à cette technologie. Dans leurs courriers, les entreprises ont également été invitées à fournir des informations sur leurs travaux en matière de superintelligence et d’auto-amélioration récursive, ainsi que sur leurs dispositifs de protection et leurs mécanismes d’arrêt d’urgence.

Un traité confronté à des obstacles de vérification

À terme, le député souhaite un accord bilatéral interdisant l’auto-amélioration récursive et prévoyant la surveillance des laboratoires qui développent une IA avancée. Son projet autoriserait aussi des inspections menées par un organisme non gouvernemental. À plus court terme, il propose de réunir un groupe de travail composé d’experts américains et chinois afin d’élaborer des recommandations de sécurité et des moyens de vérifier le respect de l’accord.

Les entreprises et les gouvernements ne se sont pas engagés

The Verge a rapporté que DeepSeek, Alibaba, Moonshot AI et l’agence américaine de renseignement n’avaient pas répondu immédiatement aux demandes de commentaire. Ro Khanna reconnaît que les entreprises chinoises pourraient ne pas répondre complètement. Elles n’avaient déjà pas donné suite à une précédente demande les invitant à ralentir le développement de l’IA avec OpenAI et Anthropic.

La rivalité technologique complique la coopération

Ro Khanna reproche aux deux gouvernements de ne pas faire preuve d’un sentiment d’urgence suffisant et se demande si des entreprises guidées par la recherche du profit devraient fixer les règles de sécurité. Sa proposition intervient après une rencontre entre le président américain Donald Trump et le président chinois Xi Jinping. Toutefois, la source estime peu probable, à court terme, la conclusion d’un traité interdisant les systèmes capables de s’améliorer eux-mêmes. Plusieurs élus américains doutent également que la Chine respecte un tel accord.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: Will Chinese AI companies slow down? A top House Democrat wants answers