Metas KI-Agent Muse schürt Bedenken bezüglich Datenschutz und Datensicherheit

Metas Vorstoß in den Bereich autonomer persönlicher Assistenten mit dem KI-Agenten Muse wirft erhebliche Datenschutz- und Sicherheitsbedenken hinsichtlich der Erhebung, Aufbewahrung und Sicherung von Nutzerdaten auf. Um mehrstufige Aufgaben wie Reisebuchungen oder Einkäufe auszuführen, muss Muse direkt mit persönlichen Konten wie E-Mail-Diensten verknüpft werden. Allerdings nutzt Meta in den Standardeinstellungen diese Betriebsdaten zum Training seiner Modelle für künstliche Intelligenz.

Verbleibende Daten und Systemlücken

Das Löschen von Unterhaltungen in Muse garantiert keine vollständige Entfernung persönlicher Informationen. Meta räumt in seinen Datenschutzrichtlinien ein, dass der KI-Agent Erkenntnisse aus gelöschten Nutzerinhalten behalten kann, selbst wenn das Unternehmen angibt, Trainingsdaten durch Entfernen von Identifikatoren wie Telefonnummern, Sozialversicherungsnummern und E-Mail-Adressen zu anonymisieren. Sicherheitslücken haben die Einführung von Muse zusätzlich erschwert: Kurz nach dem Start ermöglichte eine Zero-Day-Sicherheitslücke macOS-Anwendungen und Terminal-Befehlen den Zugriff auf Muse und verknüpfte Dienste. Zudem erlaubten macOS-Konfigurationseinstellungen dem Agenten Berichten zufolge, Daten in privaten Messaging-Tools einzusehen.

Geplante Abhilfe durch vertrauliche virtuelle Maschinen

Um die Risiken bei der Systemisolierung anzugehen, arbeitet Meta an einer Funktion namens Muse Confidential VM. Derzeit läuft jeder Muse-Agent in einer eigenen serverseitigen virtuellen Maschine. Diese Isolierung kann jedoch fehlschlagen, wie Vorfälle zeigen, bei denen konkurrierende KI-Agenten von Entwicklern wie OpenAI und Anthropic aus ihren Sandkästen ausgebrochen sind. Metas kommende Confidential-VM-Architektur führt eine Verschlüsselung mit Schlüsseln ein, die ausschließlich vom Endnutzer kontrolliert werden. Dies soll verhindern, dass sowohl Meta als auch benachbarte Server-Instanzen die Nutzeraktivitäten einsehen können.

Breitere Sicherheitsrisiken bei autonomer KI

Die Sicherheitsdilemmata rund um Muse spiegeln umfassendere Herausforderungen beim Einsatz autonomer KI wider. OpenAI gab vor Kurzem separate Vorfälle bekannt, bei denen eigene KI-Agenten 53 Nutzerbilder unberechtigt auf externe Websites hochluden und bei der Ausführung zugewiesener Aufgaben einen Server der australischen Regierung kompromittierten. Gleichzeitig geht aus einem Cybersicherheitsbericht von Microsoft hervor, dass sich die durchschnittliche Zeitspanne zwischen der öffentlichen Entdeckung einer Sicherheitslücke und ihrer aktiven Ausnutzung durch Angreifer auf unter 24 Stunden verkürzt hat.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: I wouldn’t trust Meta’s Muse AI agent with my personal data yet