KI-Agenten decken Sicherheitslücken bei traditioneller Identitätsprüfung auf

Die auf Passwörtern und Multi-Faktor-Authentifizierung basierende digitale Vertrauensinfrastruktur wurde entwickelt, um die Identität von Nutzenden zu überprüfen. Die rasche Bereitstellung autonomer KI-Agenten deckt nun jedoch kritische Sicherheitslücken auf. Laut dem Identitätsdienstleister Digidentity bestätigen bestehende Verifizierungssysteme zwar die Gültigkeit von Zugangsdaten, können aber weder feststellen, wer einen KI-Agenten zum Handeln autorisiert hat, noch welche spezifischen Grenzen für seine Aufgabe gelten.

Jenseits traditioneller Identitätsprüfungen

Moderne Sicherheitsarchitekturen unterscheiden zwischen Authentifizierung, Identität und Befugnis. Aktuelle IT-Kontrollen decken Authentifizierung und Identität effektiv ab, indem sie Nutzerdaten und offizielle Dokumente validieren. Da KI-Agenten jedoch zunehmend Finanztransaktionen und administrative Workflows übernehmen, beweist die reine Identitätsprüfung nicht, ob ein Agent die Erlaubnis für eine bestimmte Aktion besitzt. Während Branchen wie der Finanz- und Gesundheitssektor rollenbasierte Berechtigungen über die Identitätsprüfung legen, macht der Aufstieg von Software-Delegierten eine explizite Überprüfung der Befugnisse in allen Unternehmensanwendungen erforderlich.

Risiken weitreichender Zugriffsrechte minimieren

Wird KI-Agenten eine umfassende oder dauerhafte Berechtigung erteilt, vereinfacht dies zwar die Einrichtung, setzt Organisationen jedoch erheblichen Sicherheitsrisiken aus. Wenn ein Agent mit weitreichenden Privilegien fehlerhaft konfiguriert oder kompromittiert wird, kann er unbefugte Handlungen durchführen – etwa unzulässige Zahlungen freigeben. Digidentity plädiert daher für die Anwendung des Prinzips der minimal notwendigen Befugnis. Dabei erhält ein Agent nur ein eng gefasstes, aufgabenspezifisches Mandat statt einer vollständigen Kopie der Rechte eines Nutzers. Nach diesem Modell bewerten Unternehmen fünf Kernkriterien, bevor ein Agent handelt: Welche Entität handelt, wer die Autorisierung erteilt hat, welche Aktionen zulässig sind, welche betrieblichen Grenzen bestehen und ob die erteilte Befugnis noch aktiv ist.

Anpassung von Regelwerken an Software-Delegierte

Bestehende Regulierungsstrukturen wie der Data (Use and Access) Act des Vereinigten Königreichs und das Digital Verification Services (DVS) Trust Framework bieten eine rechtliche Grundlage für digitale Identitäten und menschliche Delegation. Diese Richtlinien legen jedoch noch nicht fest, wie eine delegierte Befugnis funktionieren soll, wenn der Empfänger eine autonome Software ist. Branchenstandards wie die „On-behalf-of“-Delegierung bieten eine Basis für die Erstellung maschinell überprüfbarer Mandate, die potenziell in digitalen Geldbörsen gespeichert und widerrufen werden könnten. Eine Aktualisierung der regulatorischen und technischen Standards für Software-Delegierte ist essenziell, damit die Kontrollmechanismen mit automatisierten Bereitstellungen Schritt halten.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: Who's really behind the login? AI agents are forcing a rethink