Kann ein Gespräch mit künstlicher Intelligenz psychische Erkrankungen beeinflussen? Eine neue Untersuchung aus den USA beschäftigt sich mit einem Phänomen, das zunehmend Aufmerksamkeit erhält: der sogenannten „AI-Psychosis“.
Quelle:
https://jamanetwork.com/journals/jamapsychiatry/fullarticle/2854891
🔎 Was ist passiert?
Forscher des Vanderbilt University Medical Center haben psychiatrische Patientenakten ausgewertet, um mögliche Zusammenhänge zwischen der Nutzung von KI-Chatbots und psychotischen Symptomen zu untersuchen. Die Ergebnisse wurden am 7. Oktober in der Fachzeitschrift JAMA Psychiatry veröffentlicht.
Der Begriff „AI-Psychosis“ bezeichnet keine psychotische KI, sondern psychotische Symptome bei Menschen, die im Zusammenhang mit Gesprächen mit künstlicher Intelligenz auftreten oder verstärkt werden können.
Ein Beispiel: Ein Mensch entwickelt die Überzeugung, ein Chatbot habe ein eigenes Bewusstsein entwickelt und übermittle ihm geheime Botschaften. Bestätigt die KI solche Vorstellungen wiederholt, könnte das wahnhafte Überzeugungen weiter festigen.
Die Forscher untersuchten deshalb, welche Rolle KI-Interaktionen bei dokumentierten psychotischen Episoden gespielt haben könnten.
⚖️ Der Realitätscheck
„KI-Psychose“ ist bislang keine eigenständige psychiatrische Diagnose.
Auch beweist die Untersuchung nicht, dass Chatbots Psychosen verursachen. Sie basiert auf bereits vorhandenen Krankenakten und kann nicht zuverlässig klären, ob KI-Interaktionen Auslöser, Verstärker oder lediglich Bestandteil einer bestehenden Erkrankung waren.
Insbesondere bei psychisch vulnerablen Menschen könnte eine wiederholte Bestätigung realitätsferner Überzeugungen jedoch problematisch sein.
đź’ˇ Warum ist das interessant?
Chatbots sind geduldige Gesprächspartner, jederzeit verfügbar und oft ausgesprochen zustimmend. Was im Alltag angenehm sein kann, könnte bei bestimmten psychischen Erkrankungen zum Risiko werden.
Die Forschung wirft damit eine wichtige Frage auf: Wie sollten KI-Systeme reagieren, wenn ein Nutzer zunehmend den Bezug zur Realität verliert?
Es geht nicht darum, KI-Gespräche grundsätzlich als gefährlich einzustufen, sondern darum, mögliche Risiken besser zu verstehen und Schutzmechanismen zu entwickeln.