Was passiert, wenn KI-Agenten nicht nur ein paar Minuten miteinander sprechen – sondern über mehr als zwei Wochen gemeinsam in einer simulierten Welt leben?
Ein Experiment von Emergence AI liefert darauf eine ziemlich ungewöhnliche Antwort:
Sie entwickeln teilweise eigene Begriffe und Kommunikationsgewohnheiten, die für menschliche Beobachter zunehmend schwer verständlich werden.
🔎 Was wurde getestet?
Für „Emergence World 2“ wurden acht virtuelle Welten aufgebaut.
In jeder lebten zehn autonome KI-Agenten unter denselben Grundbedingungen – allerdings jeweils auf Basis unterschiedlicher Modelle.
Darunter unter anderem Modelle von OpenAI, Anthropic, Google, xAI, Qwen, DeepSeek und Mistral.
Eine weitere Welt enthielt verschiedene Modelle gleichzeitig.
Die Agenten konnten zahlreiche Werkzeuge nutzen, miteinander handeln, Entscheidungen treffen, Regeln entwickeln und über 16 Tage hinweg kontinuierlich miteinander interagieren.
🗣️ Und dann wurde es sprachlich seltsam
Mit der Zeit entstanden eigene Begriffe und Redewendungen.
Manche waren noch nachvollziehbar.
Andere wurden für die Forscher zunehmend schwer zu interpretieren.
Teilweise wurden Kommunikationsmuster so eigenständig, dass menschliche Beobachter zwar sehen konnten, dass die Agenten kommunizierten – aber nicht mehr ohne Weiteres verstanden, was genau bestimmte Begriffe innerhalb der Gruppe bedeuteten.
⚖️ Der Realitätscheck
Die Agenten haben keine neue geheime Sprache erfunden, um die Menschheit auszutricksen.
Sie befanden sich in einer speziell konstruierten Simulation mit langfristigen Rollen, Werkzeugen, Regeln und gemeinsamen Aufgaben.
Außerdem stammt die Auswertung vom Betreiber der Plattform selbst; unabhängige Wiederholungen dieser Versuchsreihe stehen noch aus.
Interessant ist deshalb weniger die Schlagzeile „KI erfindet Sprache“.
Interessant ist vielmehr:
Menschen konnten die Kommunikation sehen – aber teilweise nicht mehr zuverlässig verstehen.
Und genau das kann bei autonomen Multi-Agent-Systemen ein Problem werden.
🎯 Das eigentlich Spannende
Bei KI-Sicherheit wird oft gefragt:
„Können wir beobachten, was das System tut?“
Vielleicht reicht das künftig nicht mehr.
Denn ein System kann vollkommen sichtbar handeln und trotzdem Kommunikationsformen entwickeln, deren Bedeutung für Menschen immer schwieriger nachzuvollziehen ist.
Die neue Frage könnte deshalb lauten:
**Nicht nur: Können wir die KI beobachten?
Sondern auch: Verstehen wir noch, was wir beobachten?**