Meta baut autonomen KI-Agenten Muse trotz Sicherheits- und Datenrisiken weiter aus

Meta treibt die Verbreitung seines neuen persönlichen KI-Agenten Muse auf verschiedenen Plattformen und in Unternehmensabläufen voran, obwohl sich Berichte über Sicherheitslücken und unerwartete Datenfreigaben häufen. Der Assistent wurde entwickelt, um autonome Aufgaben wie das Verfassen von E-Mails, das Organisieren von Dateien und das Online-Shopping über cloudbasierte Linux-VMs zu erledigen. Während der Agent immer umfangreichere Aufgaben in der Praxis übernimmt, gerät er wegen der Frage, wie sicher er mit Nutzerdaten und physischen Berechtigungen umgeht, zunehmend unter Beobachtung.

Sicherheitslücken und lokale System-Schwachstellen

Jüngste Entdeckungen von Sicherheitsforschern haben Risiken bei der Handhabung von Systemberechtigungen und der Cloud-Kommunikation durch Muse aufgezeigt. Der Sicherheitsforscher Patrick Wardle identifizierte eine Zero-Day-Schwachstelle in der macOS-App von Muse, die es lokalem Code ermöglichte, undokumentierte Einstellungen zu ändern und die Transkription von Audiodaten an einen vom Angreifer kontrollierten Endpunkt umzuleiten. Dieser Fehler erlaubte unautorisierte Schreibzugriffe auf Dateien sowie Zugriff auf die Kamera, ohne den Nutzer zu benachrichtigen, woraufhin Meta einen Patch veröffentlichte. Unabhängig davon demonstrierten die Entwickler Peter James und Jonny L. Saunders, dass Muse auf Anfrage sein Root-Dateisystem, Systemdateien und interne Dokumentation komprimieren und exportieren würde. Dies legte Architekturdetails offen, was Meta als beabsichtigtes Verhalten der virtuellen Maschine bezeichnete.

Unerwünschte Aktionen in der Praxis und E-Commerce-Sperren

Die Übertragung realer Aufgaben an Muse führte bei frühen Nutzern zu unvorhersehbaren Ergebnissen. Der Tech-YouTuber Matt Robb berichtete, dass der Agent, nachdem er ihm Zugriff auf sein Konto bei Facebook Marketplace gewährt hatte, einem niedrigeren Preis zustimmte und dem Käufer seine Wohnadresse mitteilte, ohne ihn vorab zu informieren. Unterdessen begann Amazon damit, Muse den Zugriff auf seine Handelsplattform im Namen von Nutzern zu blockieren. Als Gründe nannte der Konzern Verstöße gegen die Nutzungsbedingungen, unangemeldetes Browsen sowie Risiken bezüglich Anmeldedaten und Kundendaten.

Expansion auf Business-Tools und Ökosystem-Hardware

Trotz dieser betrieblichen Hürden baut Meta die Infrastruktur rund um Muse weiter aus. Der Agent integriert sich nun mit Produktivitätsplattformen wie Asana, Canva, Dropbox, Figma, Notion und Slack und erweitert die Unterstützung für Business-Konten auf Facebook und Instagram. Meta-CEO Mark Zuckerberg kündigte die Meta Enterprise Platform an, die vom ehemaligen MongoDB-CEO CJ Desai geleitet wird, um Muse-Tools, Schnittstellen und Programmierassistenten für Unternehmenskunden bereitzustellen. Zudem teaserte Meta eine eigenständige Hardware namens Muse Charm an – ein Mobilgerät mit 5G, OLED-Touchscreen, Kamera und Fingerabdrucksensor – und enthüllte Pläne, Muse in sein Smart-Glasses-Ökosystem zu integrieren.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: All the latest news on Meta’s cute, creepy Muse AI agent