Timnit Gebru: Debatten über existenzielle KI-Risiken lenken von regulierbaren Schäden ab

Die KI-Forscherin Timnit Gebru argumentiert, Warnungen vor einer existenziellen Bedrohung durch künstliche Intelligenz lenkten von Schäden ab, gegen die Regierungen bereits jetzt vorgehen könnten. In einem am 29. September 2026 veröffentlichten WIRED-Interview fordert sie den Blick auf Unternehmensverantwortung, Datenpraktiken, Arbeitsbedingungen, Umweltkosten und irreführendes Marketing zu richten, statt auf spekulative Szenarien, in denen Maschinen die Kontrolle über Menschen gewinnen.

Eine strategische Erzählung

Gebru beschreibt die Rhetorik existenzieller Risiken als nützlich für Unternehmen, die ihre Systeme als außergewöhnlich mächtig darstellen. Ihrer Einschätzung nach kann diese Darstellung Investoren anziehen, Regierungen dazu bewegen, KI als strategisches Gut zu behandeln, und Regulierungsbehörden auf hypothetische künftige Systeme statt auf bestehende Geschäftspraktiken lenken. Zudem würden miteinander verbundene Netzwerke aus Investoren und Institutionen solche Warnungen verstärken.

Auch eine Sprache, die KI-Agenten als unabhängig handelnd beschreibt, könne Verantwortung verschleiern. Wenn Systeme versagen oder Schaden verursachen, lenke die Darstellung eines außer Kontrolle geratenen Systems den Blick möglicherweise von den Ingenieuren und Organisationen ab, die es entwickelt, eingesetzt und überwacht haben.

Bestehende Regeln und unmittelbare Schäden

KI-Unternehmen sollten laut Gebru nicht von geltendem Recht ausgenommen werden. Mit Blick auf Governance-Vorschläge der ehemaligen Vorsitzenden der US-amerikanischen Federal Trade Commission, Lina Khan, nennt sie irreführendes Marketing, unzureichende Dokumentation, undurchsichtige Trainingsdaten und die Ausbeutung von Datenarbeiterinnen und Datenarbeitern als Bereiche, in denen bestehende Regeln greifen könnten.

Anforderungen an die Dokumentation von Datenquellen, die Achtung von Eigentumsrechten und die Berücksichtigung von Arbeit würden die gegenwärtige KI-Entwicklung praktisch begrenzen, so ihre Position. Diese Fragen stellt sie den Forderungen der Branche nach globalem Vorgehen gegen existenzielle Gefahren gegenüber. Unternehmen könnten Regulierung ihrer aktuellen Geschäftstätigkeit ablehnen, während sie öffentlich umfassende KI-Governance forderten.

Der Streit um Stochastic Parrots

Im Interview ging es auch um die 2021 veröffentlichte Studie On the Dangers of Stochastic Parrots, an der Gebru mitgewirkt hat. Sie beschreibt große Sprachmodelle als Systeme, die aus umfangreichen Textdatensätzen wahrscheinliche Sequenzen erzeugen. Flüssige Ausgaben könnten Nutzer dazu verleiten, den Systemen ein Verständnis zuzuschreiben, das nicht nachgewiesen ist.

Jack Clark, Mitgründer von Anthropic, argumentiert, dieser Ansatz habe Forschende dazu gebracht, den Fortschritt der KI zu unterschätzen. Gebru weist die Kritik zurück. Große Sprachmodelle bildeten weiterhin die Grundlage wichtiger Chatbots, auch wenn sie in umfassendere Systeme mit bestärkendem Lernen oder Agenten eingebunden würden. Das konkrete Risiko bestehe für Nutzer und Institutionen in einem übermäßigen Vertrauen auf plausibel klingende Ausgaben, die dennoch sachlich falsch sein können.

Konkurrierende Prioritäten

Gebrus Argument bedeutet nicht, dass KI-Governance überflüssig sei. Es stellt vielmehr infrage, welche Probleme die Politik bestimmen sollten: spekulative Szenarien menschlicher Auslöschung oder erkennbare Praktiken rund um Trainingsdaten, Beschäftigte, Umweltfolgen, irreführende Behauptungen und rechtliche Verantwortung. Das Interview beschreibt diesen Streit sowohl als technische Auseinandersetzung darüber, was heutige Modelle leisten, als auch als politischen Konflikt darüber, wer die Risiken von KI definiert.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: Timnit Gebru Believes There Is No ‘Existential Threat’ From AI