Künstliche Intelligenz wirkt manchmal so, als hätte sie alles gleichzeitig im Kopf: allgemeines Wissen, frühere Gespräche, persönliche Vorlieben, Dateien, aktuelle Nachrichten und zusätzliche Werkzeuge.
Tatsächlich liegen diese Dinge aber auf verschiedenen Ebenen.
Eine hilfreiche Vorstellung ist deshalb: Stell dir ein Sprachmodell wie einen sehr schnellen Mitarbeiter in einem Büro vor.
Die genaue Ausstattung dieses „Büros“ unterscheidet sich je nach Anbieter und Produkt. Die grundlegenden Prinzipien – Modell, Kontext, zusätzliche Speicher und externe Werkzeuge – sind bei modernen KI-Assistenten aber ähnlich.
🎓 Das Training ist die Ausbildung
Bevor ein Sprachmodell überhaupt mit uns sprechen kann, wird es mit riesigen Datenmengen trainiert.
Dabei lernt es Muster in Sprache, Zusammenhänge, typische Strukturen und sehr viel allgemeines Wissen.
Nach dem Training besitzt es aber keine perfekte Datenbank mit jedem gelesenen Text. Vielmehr hat es gelernt, aus Mustern Wahrscheinlichkeiten abzuleiten.
🧑💼 Das Sprachmodell ist der Mitarbeiter
Das fertige Modell entspricht unserem Büro-Mitarbeiter.
Er bringt seine Ausbildung, seine Fähigkeiten und sein allgemeines Wissen mit.
Was er für eine konkrete Aufgabe zusätzlich braucht, hängt davon ab, was gerade auf seinem Schreibtisch liegt oder worauf er zugreifen darf.
📝 Der Prompt ist der Arbeitsauftrag
Ein Prompt ist schlicht der aktuelle Auftrag:
- „Fasse diesen Text zusammen.“
- „Vergleiche diese beiden Studien.“
- „Schreib mir einen Beitrag für Telegram.“
Je klarer der Auftrag, desto besser weiß der Mitarbeiter, was von ihm erwartet wird.
🗃️ Der Schreibtisch ist das Kontextfenster
Das sogenannte Kontextfenster kann man sich wie den Schreibtisch des Mitarbeiters vorstellen.
Alles, was dort gerade liegt, kann unmittelbar berücksichtigt werden: der aktuelle Gesprächsverlauf, eingefügte Texte, Anweisungen oder Inhalte aus geöffneten Dateien.
Und dieser Schreibtisch ist bei aktuellen Modellen inzwischen sehr groß. Je nach Modell können dort hundert bis mehrere tausend Dokumentseiten Platz finden.
Die genaue Größe verändert sich allerdings ständig mit neuen Modellen und Produkten.
Wichtig ist deshalb weniger die konkrete Zahl als das Prinzip: Der Schreibtisch ist riesig – aber nicht unendlich.
Wenn zu viel Material gleichzeitig darauf liegt, muss irgendwann priorisiert, zusammengefasst oder weggelassen werden.
📂 Der Aktenschrank enthält frühere Gespräche
Neben dem Schreibtisch gibt es unseren Aktenschrank.
Darin liegen frühere Chats und andere Gesprächszusammenhänge. Sie stehen nicht automatisch vollständig offen auf dem Schreibtisch.
Je nach Produktfunktion kann die KI aber Informationen aus früheren Gesprächen wieder heranziehen.
Das erklärt, warum ein neuer Chat nicht zwingend bei null beginnt – aber trotzdem nicht jedes Detail aus jedem früheren Gespräch sofort präsent ist.
🧠 Das Notizbuch ist das Memory
Dann besitzt unser Mitarbeiter noch ein persönliches Notizbuch.
Darin stehen ausgewählte Dinge, die über einzelne Gespräche hinaus nützlich sein können: Vorlieben, wiederkehrende Projekte, wichtige Zusammenhänge oder persönliche Einstellungen.
Dieses Memory ist kein vollständiges Gesprächsarchiv. Es ist eher eine verdichtete Erinnerungshilfe.
Und hier gibt es einen wichtigen Unterschied zu Schreibtisch und Aktenschrank: Der Nutzer kann dieses Notizbuch zumindest teilweise einsehen und beeinflussen.
Er kann darauf aufmerksam machen, dass eine Erinnerung falsch oder nicht mehr aktuell ist, Änderungen anstoßen oder festhalten lassen, was künftig berücksichtigt werden soll.
Man kann also nicht einfach selbst beliebig in das Notizbuch hineinschreiben. Aber man kann dem Mitarbeiter durchaus sagen: „Diese Notiz stimmt nicht mehr.“ Oder: „Das solltest du dir künftig merken.“
Wie genau Memory, frühere Chats oder Projektdateien organisiert sind, unterscheidet sich je nach Anbieter.
🗄️ Das Archiv enthält Dateien und Wissenssammlungen
Dann gibt es noch ein Archiv.
Dort liegen hochgeladene Dokumente, Projektdateien, Bilder, Referenzmaterial oder andere Wissenssammlungen.
Sie befinden sich dauerhaft außerhalb des unmittelbaren Schreibtischbereichs und können bei Bedarf herangezogen werden.
Das ist vergleichbar mit einem Archivraum oder einer Wissensdatenbank: Die Informationen sind vorhanden – aber nicht automatisch ständig Teil der aktuellen Arbeitsfläche.
🌐 Die Websuche ist der Gang nach draußen
Aktuelle Nachrichten, neue Forschungsergebnisse, heutige Preise oder politische Entwicklungen stehen nicht automatisch im Modell bereit.
Dafür muss recherchiert werden.
Die Websuche ist also der Moment, in dem unser Büro-Mitarbeiter sagt: „Das weiß ich aus meinen Unterlagen nicht sicher. Ich gehe nach draußen und schaue nach.“
Damit kommt eine weitere Informationsebene hinzu: aktuelles Wissen aus externen Quellen.
🛠️ Tools und Plugins sind Fachsoftware und Werkzeuge
Und schließlich besitzt unser Mitarbeiter zusätzliche Werkzeuge.
Ein Sprachmodell kann mit Sprache arbeiten.
Für bestimmte Aufgaben braucht es aber mehr: Taschenrechner, Kalender, E-Mail, Datenbanken, WordPress, Bildgeneratoren oder andere Programme.
Diese Tools sind im Bürovergleich die Fachsoftware und Geräte am Arbeitsplatz.
Der Mitarbeiter selbst ist dadurch nicht automatisch allwissender. Aber er kann mit diesen Werkzeugen Dinge tun, die er allein mit Sprache nicht könnte.
🤥 Und was ist eine Halluzination?
Das ist der Moment, in dem der Mitarbeiter keine ausreichende Information vorliegen hat – aber trotzdem eine plausibel klingende Antwort formuliert.
Er ergänzt die Lücke.
Und manchmal klingt das so überzeugend, dass man gar nicht merkt, dass die Akte eigentlich leer war.
Deshalb ist bei wichtigen Informationen eine einfache Frage oft sehr hilfreich: Woher weiß die KI das eigentlich gerade?
- Aus ihrer Ausbildung?
- Vom Schreibtisch?
- Aus dem Aktenschrank?
- Aus dem Memory-Notizbuch?
- Aus dem Archiv?
- Oder aus einer aktuellen Recherche?
⚖️ Der Realitätscheck
Natürlich sitzt in einem Sprachmodell kein kleiner Mitarbeiter mit Schreibtisch, Aktenschrank und Archivraum.
Technisch arbeiten hier unter anderem Tokens, Transformer-Architekturen, Kontextfenster, externe Speicher, Suchsysteme und Tool-Aufrufe zusammen.
Die Büro-Analogie ist deshalb bewusst vereinfacht.
Aber sie hilft dabei, verschiedene Funktionen auseinanderzuhalten, die im Alltag schnell wie ein einziges großes „Gedächtnis“ wirken.
🙂 Kleine Anekdote aus der Redaktion
Dass auch Menschen kein perfektes Memory-System besitzen, zeigte sich heute Morgen ziemlich schön.
Der Chefredakteur war fest davon überzeugt, dass genau dieser Beitrag bereits seit Wochen im Kanal und auf WordPress veröffentlicht sei.
Der KI-Assistent widersprach.
Kurzer Blick ins Archiv: Die KI hatte recht. Der Beitrag existierte noch gar nicht.
War das jetzt eine menschliche Halluzination?
Zumindest war es eine ziemlich überzeugende falsche Erinnerung. 😁
Und genau daran sieht man nebenbei auch eine ganz praktische Form von KI-Nutzung: Nicht immer erinnert die Maschine den Menschen falsch. Manchmal ist es tatsächlich umgekehrt.
💡 Warum ist das interessant?
Je besser man versteht, welcher „Teil des Büros“ gerade benutzt wird, desto weniger wirkt KI wie Magie.
Und desto leichter wird es, realistische Erwartungen zu haben, bessere Fragen zu stellen und Fehler schneller zu erkennen.
Denn die entscheidende Frage lautet oft nicht: „Warum weiß die KI das nicht?“
Sondern: „In welchem Bereich des Büros hätte diese Information eigentlich liegen müssen?“