OpenAI führt in der EU ein neues Verfahren ein, mit dem sich bestimmte Texte aus ChatGPT und Codex künftig als KI-generiert erkennen lassen sollen.
Quelle:
https://openai.com/index/eu-text-provenance/
Die Technik heißt textGrain und funktioniert anders als klassische Wasserzeichen: Es werden keine unsichtbaren Zeichen, Leerstellen oder versteckten Metadaten eingebaut.
Stattdessen beeinflusst das System minimal die statistische Auswahl von Wörtern und Wortbestandteilen. Über längere Texte entsteht dadurch ein Muster, das ein dafür entwickelter Detektor erkennen kann.
In den kommenden Wochen soll das Verfahren für geeignete ChatGPT- und Codex-Ausgaben in der EU eingeführt werden.
🔎 Was ist passiert?
OpenAI reagiert damit auf Transparenzanforderungen des EU AI Act. Ziel ist es, die Herkunft bestimmter KI-generierter Texte technisch besser nachvollziehbar zu machen.
Für normale Nutzer bedeutet das zunächst keinen sichtbaren „KI-Stempel“. Der Text sieht weiterhin normal aus.
Wer ChatGPT zum Formulieren, Überarbeiten oder als Schreibhilfe nutzt, bekommt also nicht automatisch einen sichtbaren Hinweis in sein Dokument gesetzt.
Wird das statistische Muster erkannt, lässt sich daraus aber nur begrenzt etwas ableiten. Es kann darauf hindeuten, dass ein Text aus einem entsprechenden OpenAI-System stammt.
Es beweist dagegen nicht, wer den Text geschrieben oder bearbeitet hat, wie groß der menschliche Anteil ist, wem der Text gehört oder ob sein Inhalt korrekt ist.
Auch nach menschlicher Überarbeitung kann das Signal teilweise erhalten bleiben. Stärkere Umschreibungen, Übersetzungen oder sehr kurze Texte können es dagegen abschwächen oder unkenntlich machen.
⚖️ Der Realitätscheck
textGrain ist kein magischer KI-Detektor, der zweifelsfrei zwischen Mensch und Maschine unterscheiden kann.
OpenAI weist selbst darauf hin, dass es Fehlalarme und übersehene Wasserzeichen geben kann. Der zugehörige Detektor soll deshalb zunächst nicht frei für jedermann zugänglich sein, sondern ausgewählten Forschern und Fachorganisationen.
Für Schule, Universität, Journalismus oder berufliche Texte wäre es daher falsch, aus einem möglichen Treffer automatisch auf Täuschung oder vollständige KI-Autorenschaft zu schließen.
💡 Warum ist das interessant?
Mit solchen Verfahren verschiebt sich die Debatte langsam von der Frage „Kann man KI-Texte erkennen?“ hin zu einer differenzierteren Frage: Welche technischen Spuren lassen sich erkennen – und was beweisen sie tatsächlich?
Gerade für Menschen, die KI lediglich als Schreib- oder Formulierungshilfe verwenden, dürfte diese Unterscheidung künftig wichtiger werden.