Der sowjetische Computer meldete Atomangriff. Stanislav Petrov fragte, ob das Sinn ergab.

Ein sowjetisches Frühwarnsystem meldete, die Vereinigten Staaten hätten eine Atomrakete gestartet.

Dann zeigte es eine weitere.

Dann noch mehr.

Fünf Raketen schienen auf die Sowjetunion zuzufliegen.

Der Offizier vor dem System akzeptierte die Warnung nicht automatisch als Wirklichkeit.

Sein Name war Stanislav Petrov. Am 26. September 1983 half seine Entscheidung, die Maschine in Frage zu stellen, dabei, einen Fehlalarm davon abzuhalten, in einer ohnehin gefährlichen nuklearen Befehlskette weiter nach oben zu steigen.

Der Zeitpunkt hätte kaum schlechter sein können

Petrov war Oberstleutnant der sowjetischen Luftverteidigung und hatte in jener Nacht Dienst in Serpuchow-15, einer geheimen Frühwarnanlage nahe Moskau.

Der Kalte Krieg war selbst für seine Verhältnisse angespannt. Nur wenige Wochen zuvor hatte die Sowjetunion Korean-Air-Lines-Flug 007 abgeschossen, nachdem das Flugzeug sowjetischen Luftraum verletzt hatte. Alle 269 Menschen an Bord starben.

Dann schlug das Satellitenwarnsystem Alarm.

Es meldete den Start einer amerikanischen Interkontinentalrakete.

Weitere Starts erschienen, bis das System scheinbar fünf Raketen anzeigte.

Petrov musste entscheiden, was diese Information bedeutete.

Der Computer sagte Angriff. Das Muster sagte etwas anderes

Petrov erklärte später, dass das Szenario nicht zu seiner Vorstellung von einem amerikanischen Erstschlag passte. Wenn die Vereinigten Staaten wirklich einen Atomkrieg beginnen wollten, warum sollten sie nur fünf Raketen einsetzen?

Er wusste außerdem, dass das satellitengestützte Warnsystem noch relativ neu war.

Und ein Alarm war nicht dasselbe wie eine unabhängige Bestätigung, dass tatsächlich Raketen unterwegs waren.

Deshalb stufte er die Warnung als Fehlalarm ein.

Er hatte recht.

Die sowjetischen Satelliten hatten reflektiertes Sonnenlicht auf hoch liegenden Wolken für Raketenstarts gehalten.

Petrov saß nicht allein vor einem roten Startknopf

Die Geschichte wird oft auf „den Mann, der die Welt rettete“ reduziert. Die Wirklichkeit war komplizierter.

Petrov hatte nicht persönlich die Befugnis, sowjetische Atomwaffen zu starten. Er war Teil eines Frühwarn- und Kommandosystems. Seine Aufgabe bestand darin, die Meldungen des Systems zu bewerten und seine Einschätzung in der Befehlskette weiterzugeben.

Dieser Unterschied ist wichtig.

Er macht den Vorfall aber nicht unbedeutend.

In einer nuklearen Krise kann falsche Information gefährlicher werden, je weiter sie durch Institutionen wandert. Eine Warnung kann Alarmstufen auslösen, Alarmstufen können Entscheidungszeit verkürzen, und politische oder militärische Führer haben möglicherweise nur Minuten, um zu entscheiden, ob sie einen Angriff für real halten.

Petrov brachte Zweifel in ein System, das Informationen möglichst schnell weiterleiten sollte.

Dieser Zweifel war wertvoll.

Was Petrov tatsächlich tat

• Er behandelte den Computer als Informationsquelle, nicht als Orakel.
• Er verglich die Warnung mit einem größeren Modell der Wirklichkeit. Fünf Raketen wirkten nicht wie ein plausibler Erstschlag.
• Er berücksichtigte, dass das System relativ neu war und Fehlerarten besitzen konnte, die noch niemand gesehen hatte.
• Er verwandelte Unsicherheit nicht nur deshalb in Gewissheit, weil die Lage dringend war.
• Er nutzte menschliches Urteil genau in dem Moment, in dem Automatisierung Druck erzeugte, nicht mehr nachzudenken.
• Vor allem übernahm er Verantwortung dafür, dem System zu widersprechen.

Die Lehre ist heute relevanter als damals

Moderne Systeme verwenden Algorithmen, um Betrug zu markieren, medizinische Fälle zu priorisieren, Bewerber zu ordnen, militärische Bedrohungen zu erkennen, Informationen zu filtern, Handelsentscheidungen vorzuschlagen und festzulegen, worauf Menschen als Nächstes schauen sollen.

Sie sind schneller als wir.

Sie verarbeiten mehr Daten als wir.

Sie können sich trotzdem mit großer Sicherheit irren.

Die Lösung ist nicht, Automatisierung zu ignorieren.

Menschen müssen verstehen, was ein System weiß, was es nicht weiß und wie es scheitern kann.

Eine besonders gefährliche Fehlerquelle heißt Automation Bias: Wenn ein Bildschirm unter Zeitdruck eine präzise Antwort präsentiert, neigen Menschen dazu, ihr zu vertrauen, auch wenn andere Hinweise in eine andere Richtung zeigen.

Petrovs Geschichte zeigt das Gegenteil.

Das System sagte praktisch: Angriff.

Er fragte: Ergibt das Sinn?

Manchmal ist das wichtigste Sicherheitssystem kein weiterer Sensor, kein neues Modell und kein zusätzliches Dashboard.

Sondern ein Mensch, der sich weiterhin für die Antwort verantwortlich fühlt.

Quellen

• Arms Control Association — The Man Who “Saved the World” Dies at 77
• Arms Control Association — Nuclear False Warnings and the Risk of Catastrophe
• Arms Control Association — “Skynet” Revisited
• Arms Control Association — Keep Human Control Over New Weapons
• Bildquelle — Queery-54 / Wikimedia Commons, CC BY-SA 4.0