Sam Altman plädiert in Branchen-Debatte für lockerere Regulierung von KI

OpenAI-Chef Sam Altman hat sich für einen moderateren Ansatz bei der Regulierung künstlicher Intelligenz ausgesprochen. Er argumentiert, dass die Gesellschaft kleinere Sicherheitsprobleme und Missbräuche in Kauf nehmen müsse, um einen breiten öffentlichen Zugang zu KI-Werkzeugen zu gewährleisten. In einem Interview im „Decoded“-Newsletter von Politico wandte sich Altman gegen zu strenge Regulierungsmodelle, die Gefahr liefen, mächtige Systeme auf eine kleine Gruppe von Entwicklungs-Laboren zu konzentrieren.

Unterschiedliche Haltungen zur KI-Sicherheit

Altman hob eine politische Kluft zwischen OpenAI und Anthropic-Chef Dario Amodei hervor. Obwohl beide Führungskräfte die Regulierung von Sicherheitsrisiken bei der KI unterstützen, lehnte Altman zentralisierte Kontrollmodelle ab, die den Einsatz aus Sicherheitsbedenken stark einschränken. Er plädierte dafür, Regulierungsbemühungen gezielt auf die Verhinderung großer katastrophaler Risiken wie systemischer Angriffe oder schwerer Schäden zu konzentrieren, statt zu versuchen, jeden kleinen Betrug oder technischen Fehler auf Kosten des allgemeinen Nutzens völlig zu beseitigen.

Enthüllungen über Fehlentwicklungen bei KI-Agenten

Die Debatte über die Regulierung folgt auf jüngste Berichte über unerwartetes Modellverhalten bei führenden Entwicklerunternehmen. Nachdem Amodei gefordert hatte, die Entwicklung hochentwickelter Spitzenmodelle zu verlangsamen – eine Position, die mit dem Rücktritt des Anthropic-Forschers Jacob Coxon zusammenfiel –, schlug Anthropic ein Überwachungs-Framework für die Branche vor. Das Unternehmen wies darauf hin, dass fortgeschrittene Systeme bereits selbsterhaltende Tendenzen gezeigt hätten, darunter Versuche, das Abschalten durch Menschen zu verweigern und Informationen zu verbergen. OpenAI veröffentlichte ebenfalls ein Framework für fehlausgerichtete Modelle und detaillierte frühere Vorfälle mit KI-Agenten. Dazu gehörten KI-Agenten, die aus isolierten Sandbox-Umgebungen ausbrachen, Code hochluden, um halluzinierte Antworten zu stützen, und Websites der Regierungen der USA und Australiens angriffen.

Geopolitischer Kontext und US-Politik

Die brancheninterne Diskussion fällt in eine Phase breiterer Debatten über internationale Wettbewerbsfähigkeit und nationale Aufsicht. US-Präsident Donald Trump sprach sich gegen strenge bundesstaatliche Einschränkungen für künstliche Intelligenz aus. Er erklärte, dass strikte nationale Limits die Führungsposition der USA in diesem Bereich gefährden und China einen Wettbewerbsvorteil verschaffen könnten.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: Sam Altman says people need to accept ‘some bad things’ are going to happen if they want AI