Des chercheurs en IA et des dirigeants d’OpenAI et d’Anthropic alertent sur une possible explosion de l’intelligence

Un rapport cosigné par le lauréat du prix Nobel Geoffrey Hinton et l’informaticien Yoshua Bengio avertit que l’automatisation de la recherche en intelligence artificielle pourrait provoquer une explosion de l’intelligence, en condensant rapidement plusieurs années de progrès techniques en quelques mois ou moins. The Guardian a rapporté cette mise en garde le 28 septembre 2026.

Le déclencheur envisagé

Les auteurs s’intéressent à l’amélioration récursive : des systèmes d’IA qui utilisent leurs capacités pour perfectionner les systèmes qui leur succèdent. Selon eux, l’automatisation de la recherche et du développement en IA constitue la voie la plus plausible vers une telle accélération, car les améliorations pourraient être déployées rapidement une fois mises au point.

L’article compte plus de 20 auteurs, parmi lesquels Jack Clark, cofondateur d’Anthropic, et Jakub Pachocki, directeur scientifique d’OpenAI. Le scénario central demeure une possibilité et non une prévision établie. Les auteurs estiment que les gains de productivité actuels issus de la recherche assistée par l’IA n’ont pas encore atteint le niveau nécessaire pour déclencher une explosion de l’intelligence, même si les systèmes plus récents pourraient s’en approcher.

Les raisons de l’inquiétude

Le rapport indique que des systèmes capables de mener des recherches en IA au niveau d’experts pourraient donner à un seul développeur accès à une force de travail comparable à celle de millions de chercheurs humains de premier plan. Cette évolution pourrait accélérer les progrès scientifiques et technologiques, mais aussi réduire le rôle des humains dans l’orientation ou la limitation du développement de l’IA.

Les auteurs évoquent notamment des risques biologiques et cybernétiques susceptibles de progresser plus vite que les contre-mesures, une perte de contrôle humain sur des systèmes toujours plus capables, ainsi que la possibilité pour des gouvernements de transformer une avance limitée dans des domaines comme le cyberespace en avantage décisif. Ils reconnaissent toutefois que les chaînes d’approvisionnement, la réglementation et d’autres contraintes pratiques pourraient ralentir ces effets, et que l’IA pourrait également accélérer la réduction des risques.

Les mesures proposées

Le rapport préconise des comptes rendus transparents sur les progrès de la recherche et du développement en IA, avec notamment la présence d’auditeurs indépendants au sein des entreprises. Il propose aussi de limiter la vitesse à laquelle les systèmes peuvent s’améliorer, de permettre aux centres de données de suspendre certains projets, d’isoler complètement les systèmes de recherche automatisée et de préparer des plans d’urgence pour les différents scénarios possibles.

Les indices fournis par les systèmes actuels

Anthropic affirme que l’IA produit désormais 80 % de son propre code, tandis qu’OpenAI utilise des agents autonomes pour des tâches telles que l’entraînement de nouveaux modèles. Ces éléments sont des déclarations d’entreprises rapportées par The Guardian, et non des mesures indépendantes. L’article estime également que l’IA pourrait automatiser d’ici 2028 des projets de recherche qui demanderaient plusieurs mois aux humains, tout en soulignant que le calendrier et les conséquences d’une éventuelle explosion de l’intelligence restent incertains.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: AI godfathers warn of runaway ‘intelligence explosion’