L’ordinateur soviétique annonçait une attaque nucléaire. Stanislav Petrov a demandé si cela avait du sens.

Un système soviétique d’alerte avancée annonça que les États-Unis avaient lancé un missile nucléaire.

Puis il en afficha un autre.

Puis d’autres encore.

Cinq missiles semblaient se diriger vers l’Union soviétique.

L’officier devant le système ne prit pas automatiquement l’alerte pour la réalité.

Il s’appelait Stanislav Petrov. Le 26 septembre 1983, sa décision de mettre en doute la machine contribua à empêcher une fausse alerte de remonter davantage dans une chaîne nucléaire déjà extrêmement dangereuse.

Le moment pouvait difficilement être pire

Petrov était lieutenant-colonel des forces de défense aérienne soviétiques. Cette nuit-là, il était de service à Serpukhov-15, un centre secret d’alerte avancée près de Moscou.

La guerre froide traversait une période particulièrement tendue. Quelques semaines plus tôt seulement, l’Union soviétique avait abattu le vol Korean Air Lines 007 après son entrée dans l’espace aérien soviétique, tuant les 269 personnes à bord.

Puis le système d’alerte par satellite se déclencha.

Il signalait le lancement d’un missile balistique intercontinental américain.

D’autres lancements apparurent jusqu’à ce que le système affiche un total apparent de cinq missiles.

Petrov devait décider ce que cette information signifiait réellement.

L’ordinateur disait attaque. Le scénario ne collait pas

Petrov expliqua plus tard que la situation ne correspondait pas à ce qu’il attendait d’une première frappe américaine. Si les États-Unis voulaient réellement déclencher une guerre nucléaire, pourquoi commencer avec seulement cinq missiles ?

Il savait aussi que le système satellitaire d’alerte était relativement récent.

Et une alerte ne constituait pas une confirmation indépendante que des missiles étaient réellement en approche.

Il conclut donc à une fausse alerte.

Il avait raison.

Les satellites soviétiques avaient pris des reflets de la lumière solaire sur des nuages de haute altitude pour des départs de missiles.

Ce n’était pas un homme seul avec un bouton nucléaire

L’histoire est souvent simplifiée en « l’homme qui a sauvé le monde ». La réalité était plus complexe.

Petrov n’avait pas personnellement l’autorité de lancer les armes nucléaires soviétiques. Il faisait partie d’un système d’alerte et de commandement. Son rôle consistait à évaluer ce que le système signalait et à transmettre son jugement dans la chaîne de commandement.

Cette distinction compte.

Mais elle ne rend pas l’épisode insignifiant.

Dans une crise nucléaire, une fausse information peut devenir plus dangereuse à mesure qu’elle traverse les institutions. Une alerte peut déclencher des mesures d’urgence, réduire le temps disponible pour décider et laisser aux dirigeants seulement quelques minutes pour déterminer si l’attaque est réelle.

Petrov a introduit du doute dans un système conçu pour transmettre l’information très vite.

Ce doute s’est révélé utile.

Ce que Petrov a réellement fait

• Il a traité l’ordinateur comme une source d’information, pas comme un oracle.
• Il a comparé l’alerte à un modèle plus large de la réalité. Cinq missiles ne ressemblaient pas au début rationnel d’une première frappe.
• Il a tenu compte du fait que le système était encore récent et pouvait avoir des modes de panne inconnus.
• Il n’a pas transformé l’incertitude en certitude simplement parce que l’urgence imposait de décider vite.
• Il a maintenu le jugement humain précisément au moment où l’automatisation poussait à arrêter de réfléchir.
• Surtout, il a accepté la responsabilité de ne pas être d’accord avec la machine.

La leçon est encore plus actuelle aujourd’hui

Les systèmes modernes utilisent des algorithmes pour détecter les fraudes, prioriser les dossiers médicaux, classer les candidats, repérer des menaces militaires, filtrer l’information, recommander des transactions et décider de ce que les humains doivent examiner ensuite.

Ils sont plus rapides que nous.

Ils peuvent traiter plus de données que nous.

Ils peuvent aussi se tromper avec une immense assurance.

Cela ne signifie pas qu’il faut ignorer l’automatisation.

Cela signifie que les humains doivent comprendre ce qu’un système sait, ce qu’il ne sait pas et comment il peut échouer.

L’un des modes de défaillance les plus dangereux porte un nom : automation bias. Lorsqu’un écran présente une réponse précise sous pression, nous avons tendance à lui faire confiance même si d’autres indices pointent ailleurs.

L’histoire de Petrov montre l’inverse.

Le système disait en substance : attaque.

Il a demandé : Est-ce que cela a du sens ?

Parfois, le dispositif de sécurité le plus important n’est pas un capteur supplémentaire, un nouveau modèle ou un autre dashboard.

C’est un humain qui se sent encore responsable de la réponse.

Sources

• Arms Control Association — The Man Who “Saved the World” Dies at 77
• Arms Control Association — Nuclear False Warnings and the Risk of Catastrophe
• Arms Control Association — “Skynet” Revisited
• Arms Control Association — Keep Human Control Over New Weapons
• Source de l’image — Queery-54 / Wikimedia Commons, CC BY-SA 4.0