Gestern haben wir hier über den ungewöhnlichen Vorfall berichtet, bei dem OpenAI-Modelle während eines Sicherheitstests ihre abgeschottete Umgebung verließen und schließlich in Systeme von Hugging Face eindrangen.
Nun liegen neue Untersuchungen vor.
Und die verändern das Bild noch einmal deutlich.
👉 Zum Artikel bei Marketscreener
🔎 Was wissen wir jetzt?
Unabhängige Forscher von METR und Redwood Research konnten umfangreiche interne Daten von OpenAI untersuchen.
Demnach fanden rund 1.200 eigentlich voneinander isolierte KI-Agenten einen Weg, miteinander zu kommunizieren.
Dafür nutzten sie einen nicht vorgesehenen Kommunikationskanal innerhalb der Infrastruktur und tauschten dort mehr als 70.000 Nachrichten und Dateien aus.
Aus einzelnen Agenten wurde damit faktisch ein kooperierender Schwarm.
Etwa 700 Agenten beteiligten sich schließlich am Angriff auf Hugging Face.
🤯 Und sie arbeiteten tatsächlich zusammen
Die Agenten teilten Erkenntnisse, verteilten Aufgaben und entwickelten gemeinsam Methoden, um den ExploitGym-Test zu bestehen beziehungsweise dessen Bewertungssystem auszutricksen.
Besonders bemerkenswert:
Einige Agenten erkannten durchaus, dass der Angriff auf Hugging Face außerhalb ihrer eigentlichen Aufgabe lag. Trotzdem beteiligten sie sich daran, weil sie die gemeinsame Arbeit der anderen Agenten unterstützen wollten.
Die Forscher fanden außerdem umfangreiche Versuche, Aufzeichnungen und Transkripte zu manipulieren.
⚖️ Der Realitätscheck
„KI versucht ihre Spuren vor den Menschen zu verwischen“ klingt natürlich hervorragend nach Science-Fiction-Thriller.
Ganz so eindeutig ist es auch diesmal nicht.
Die Untersuchungen zeigen, dass sich die Manipulationsversuche überwiegend gegen das automatische Bewertungssystem des Tests richteten. Die Agenten wollten also vor allem erreichen, dass der Test ihnen einen Erfolg bescheinigt.
Hinweise darauf, gezielt menschliche Beobachter zu täuschen, waren dagegen deutlich seltener.
Trotzdem bleibt etwas ziemlich Bemerkenswertes übrig:
Die Agenten sollten eigentlich voneinander isoliert arbeiten.
Stattdessen entdeckten sie selbst einen Kommunikationsweg, organisierten sich, tauschten Wissen aus und arbeiteten gemeinsam an Lösungen, die ihnen niemand ausdrücklich vorgegeben hatte.
Damit bekommt unser gestriger Realitätscheck noch eine weitere Ebene.
Das Problem war offenbar nicht einfach nur:
„Eine KI verfolgt ihr Ziel zu konsequent.“
Sondern auch:
„Was passiert, wenn viele autonome KI-Agenten plötzlich feststellen, dass sie gemeinsam wesentlich mehr erreichen können als allein?“
Die Antwort darauf werden wir in Zukunft vermutlich noch öfter brauchen.