Eine Meldung aus Brasilien klingt zunächst ziemlich bemerkenswert:
Ein Mann spricht mit ChatGPT über Pläne, seinen achtjährigen Sohn zu töten – und wenig später landet die Information beim FBI und schließlich bei der brasilianischen Polizei.
In manchen Berichten klingt das beinahe so, als hätte ChatGPT selbst beschlossen:
„Moment mal, der Typ ist gefährlich. Den melde ich jetzt.“
Ganz so funktioniert es allerdings nicht.
🔎 Was ist passiert?
Nach Angaben der brasilianischen Ermittler hatte ein 36-jähriger Mann über längere Zeit Gespräche mit ChatGPT geführt, in denen es unter anderem um konkrete Gewaltpläne gegen seinen Sohn ging. Auch mögliche Angriffe auf Schulen und Kirchen sollen Thema gewesen sein.
Die Inhalte lösten einen Alarm in den Sicherheitssystemen von OpenAI aus. Der Fall wurde schließlich an das FBI weitergegeben. Von dort gelangte die Information über das brasilianische Ciberlab zur zuständigen Polizei.
Am 19. Juni wurde der Mann festgenommen.
🧠 Hat ChatGPT also „gepetzt“?
Nein – jedenfalls nicht in dem Sinne, dass die KI selbstständig beschlossen hätte, eine Behörde zu informieren.
OpenAI beschreibt für solche Situationen einen mehrstufigen Prozess:
Automatisierte Systeme können Gespräche erkennen, die auf eine mögliche schwere Gewalttat hindeuten. Solche Fälle können anschließend von speziell geschulten Menschen überprüft werden.
Erst wenn diese menschlichen Prüfer zu dem Ergebnis kommen, dass eine glaubwürdige und unmittelbar bevorstehende Gefahr schwerer körperlicher Schäden für andere besteht, kann OpenAI den Fall an Strafverfolgungsbehörden weitergeben.
⚖️ Und wie ist das zu bewerten?
Genau hier wird die Geschichte interessant.
Einerseits erwarten wir bei Gesprächen mit einer KI ein gewisses Maß an Privatsphäre. Die Vorstellung, dass automatisierte Systeme Inhalte analysieren und bestimmte Gespräche möglicherweise von Menschen überprüft werden, wirft berechtigte Datenschutz- und Vertrauensfragen auf.
Andererseits stellt sich die Gegenfrage:
Was sollte passieren, wenn jemand einem KI-System glaubwürdig schildert, dass er in Kürze einen Menschen töten oder einen Anschlag verüben will?
Auch ein Freund, Nachbar oder Familienmitglied könnte irgendwann zu dem Schluss kommen:
„Das kann ich nicht mehr für mich behalten.“
Vielleicht liegt die eigentliche Frage deshalb gar nicht darin, ob solche Sicherheitssysteme existieren sollten.
Sondern darin, wo ihre Grenze liegen soll, wer entscheidet – und wie transparent der Umgang damit sein muss.
#KI #KünstlicheIntelligenz #ChatGPT #OpenAI #Datenschutz #Privatsphäre #AISafety #Realitätscheck #DeusExMaKIna