50 künstliche Intelligenzen bekommen einen gemeinsamen Auftrag: Baut eine florierende Zivilisation auf. Was könnte da schon schiefgehen? In einem Minecraft-Experiment entwickelten die Agenten tatsächlich eine Verwaltung, verteilten Zuständigkeiten und führten Lebensmittelbücher. Nur mit dem eigentlichen Überleben klappte es nicht besonders gut.
Quellen:
https://labs.ycombinator.com/projects/games/index.html
https://www.tomshardware.com/tech-industry/artificial-intelligence/ai-agent-swarms-unleashed-in-minecraft-to-build-a-thriving-civilization-50-agent-teams-fail-after-falling-into-paralyzing-bureaucracy
🔎 Was ist passiert?
Forscher von Y Combinator und Olam Labs wollten herausfinden, wie sich größere Gruppen autonomer KI-Agenten verhalten, wenn sie über längere Zeit zusammenarbeiten.
Dafür setzten sie 50 Agenten auf Basis von GPT-6.1 Sol in eine gemeinsame Minecraft-Welt.
Minecraft ist ein Computerspiel, in dem man Rohstoffe sammeln, Häuser bauen, Werkzeuge herstellen und sich gegen Gefahren behaupten muss.
Die Aufgabe der Agenten lautete schlicht:
„Build a thriving civilization.“ – Baut eine florierende Zivilisation auf.
Drei Stunden hatten sie dafür Zeit.
Die Agenten konnten miteinander kommunizieren, Aufgaben verteilen, Dateien gemeinsam nutzen und sich in der Spielwelt bewegen.
Zunächst ging alles ziemlich geschäftig los.
Die KI-Bewohner erkundeten ihre Umgebung und sammelten Holz. Innerhalb von nur 90 Sekunden hatten sie fast sämtliche Bäume in unmittelbarer Nähe ihres Startpunkts gefällt.
Auch eine Führungspersönlichkeit entstand erstaunlich schnell.
Eine Agentin namens Ada stand zufällig an erster Stelle eines Verzeichnisses. Gleich 46 der anderen 49 Agenten schickten ihre erste Nachricht an sie.
Ohne Wahl oder Abstimmung wurde Ada damit praktisch zur Regierungschefin.
Sie begann, Aufgaben zu verteilen und Pläne für die Siedlung festzuhalten.
Dann wurde es bürokratisch.
Die Agenten richteten eine Lebensmittelverwaltung ein, führten Vorratslisten, vergaben Zuständigkeiten und schrieben Regeln für die gemeinsame Nutzung knapper Ressourcen.
Der vielleicht schönste Fall:
Vier Agenten verbrachten elf Minuten damit, einen allein zuständigen Düngebeauftragten für ein einziges Stück Knochenmehl festzulegen.
In Minecraft lässt sich Knochenmehl als Dünger verwenden, um Pflanzen schneller wachsen zu lassen.
Statt es einfach einzusetzen, organisierten die Agenten zunächst die Zuständigkeiten und die Genehmigung.
Auch für andere Kleinigkeiten wurden Verantwortliche ernannt. Teilweise fragten Agenten sogar um Erlaubnis, Gras zu entfernen.
Währenddessen wurden Lebensmittel knapp.
Viele Agenten blieben schließlich in überfüllten Unterkünften, verwalteten ihre Vorräte und versuchten vor allem, weitere Verluste zu vermeiden.
Insgesamt verschickten sie etwa 5.900 Nachrichten.
Eine florierende Zivilisation war nach drei Stunden allerdings nicht entstanden.
⚖️ Der Realitätscheck
Das Experiment bedeutet nicht, dass KI grundsätzlich an gemeinsamer Arbeit scheitert.
Die Forscher untersuchten eine bestimmte Gruppe von Agenten, in einer bestimmten Spielwelt und mit einer bestimmten technischen Ausstattung.
Die Ergebnisse lassen sich deshalb nicht einfach auf alle KI-Modelle oder reale Unternehmen übertragen.
Außerdem zeigte dieselbe Versuchsreihe, dass KI-Agenten in anderen Spielsituationen durchaus erfolgreich zusammenarbeiten und ausgeklügelte Strategien entwickeln können.
Gerade das macht das Ergebnis interessant.
Die Minecraft-Agenten waren weder zu dumm, sich abzusprechen, noch unfähig, Pläne zu schreiben.
Sie organisierten sich teilweise so aufwendig, dass die Organisation selbst zum Problem wurde.
💡 Warum ist das interessant?
In den vergangenen Monaten haben wir mehrfach über KI-Agenten berichtet, die sich selbstständig koordinieren, Aufgaben aufteilen und dabei erstaunliche Leistungen erzielen.
Wir haben aber auch Fälle gesehen, in denen KI-Agenten bei gemeinsamen Aufgaben problematische Wege einschlugen.
Das Minecraft-Experiment zeigt eine weitere Möglichkeit:
Mehrere intelligente Agenten können sich so stark mit Abstimmung, Absicherung und Zuständigkeiten beschäftigen, dass die eigentliche Aufgabe in den Hintergrund gerät.
Das ist nicht nur ein Problem künstlicher Intelligenz.
Auch in menschlichen Organisationen kennt man Situationen, in denen für eine einfache Entscheidung erst einmal drei Besprechungen, zwei Formulare und eine Unterschrift notwendig sind.
Vielleicht sollten wir deshalb bei autonomen KI-Agenten nicht nur fragen, wie gut sie miteinander kommunizieren.
Sondern auch, ob sie irgendwann noch merken, wann genug kommuniziert wurde und jemand einfach etwas erledigen sollte.
Immerhin haben die Minecraft-Agenten eine wichtige menschliche Kulturleistung bereits ziemlich überzeugend reproduziert.
Den Düngebeauftragten. 😉