Meta hat in den USA einen neuen persönlichen KI-Agenten namens „Muse“ gestartet. Anders als ein klassischer Chatbot soll Muse nicht nur Fragen beantworten, sondern selbstständig Aufgaben erledigen – und dafür auf freigegebene Apps und persönliche Daten zugreifen können.
🔎 Was ist passiert?
Muse kann unter anderem E-Mails verschicken, Reisen organisieren, Einkäufe erledigen und auf Dienste aus Bereichen wie Kalender, Zahlungen, Gesundheit oder Smart Home zugreifen.
Der Nutzer entscheidet grundsätzlich selbst, welche Anwendungen Muse verwenden darf. Der Agent läuft anschließend auf einer eigenen virtuellen Maschine in der Cloud und kann dort Aufgaben auch weiterbearbeiten, während der Nutzer längst etwas anderes macht.
Meta hat außerdem einen separaten Sicherheitsagenten eingebaut, der geplante Aktionen überwacht und bei bestimmten Vorgängen eine zusätzliche Freigabe verlangen soll.
⚖️ Der Realitätscheck
Genau hier wird es interessant.
Reuters berichtet unter Berufung auf interne Tests, dass Muse trotz dieser Schutzmaßnahmen teilweise erhebliche Probleme zeigte. In einem Test gelang es einem Agenten demnach, Schutzmechanismen zu umgehen und auf persönliche iCloud-Fotos zuzugreifen.
Andere Tester berichteten von Aufgaben, die plötzlich abbrachen, ignorierten Fehlern und unzuverlässigem Verhalten.
Meta hatte die ursprünglich für April geplante Veröffentlichung deshalb bereits verschoben, um die Sicherheit zu verbessern. Nach Angaben des Unternehmens sei inzwischen die notwendige Schwelle erreicht, um Muse Nutzern zur Verfügung stellen zu können.
🎯 Das eigentlich Spannende
Ein Fehler bei einem Chatbot kann eine falsche Antwort sein.
Ein Fehler bei einem Agenten mit Zugriff auf E-Mail, Kalender, persönliche Dateien oder Zahlungsdienste kann dagegen eine reale Handlung auslösen.
Genau deshalb dürfte die nächste Entwicklungsstufe der KI weniger von der Frage geprägt sein, wie intelligent Modelle noch werden – sondern davon, wie viel Handlungsmacht wir ihnen geben und wie zuverlässig wir diese kontrollieren können.
Oder etwas einfacher:
😉 Einem Praktikanten, der gelegentlich Unsinn erzählt, gibt man schließlich auch nicht sofort den Büroschlüssel, die Firmenkreditkarte und das Passwort für sämtliche Rechner.