»c’t« Magazin: Chancen und Risiken fuer Anwender – KI Chat als billige Psychotherapie

»c’t« Magazin: Chancen und Risiken für Anwender – KI Chat als billige Psychotherapie

#Hannover, 8. August 2025

»#ChatGPT« wird zunehmend als kostenloser psychologischer Berater genutzt. Europas führendes IT und Technikmagazin »c’t« beleuchtet in Ausgabe 17/2025 diese Entwicklung. Experten sehen Potenzial in der Technologie, warnen aber gleichzeitig vor den Risiken eines unkontrollierten Einsatzes.

»Studien zeigen, dass ›ChatGPT‹ gravierende Fehler macht, die für Nutzer gefährlich werden können«, warnt »c’t« Redakteur Arne Grävemeyer. »So erkennt die Künstliche Intelligenz versteckte Suizidgedanken oft nicht oder gibt bei Essstörungen sogar schädliche Ratschläge. In einem Fall wurde ein Mensch mit #Essstörung ermutigt, noch weiter abzunehmen.«

Die psychologische Beratung ist zu einer verbreiteten Nutzungsform von Sprach KIs geworden. Aktuelle Studien zeigen, dass Menschen »ChatGPT« & Co. am häufigsten in der Rolle eines Therapeuten und seelischen Begleiters nutzen. Angesichts der Wartezeiten von 3 bis 6 Monaten auf einen Therapieplatz greifen viele Menschen aus Verzweiflung zu #KI Systemen als schnell verfügbare Alternative. Dies ist zwar verständlich, aber riskant.

»Die scheinbar empathischen Antworten der KI Systeme können dabei durchaus überzeugen«, beschreibt Grävemeyer: In einer US Studie bewerteten Testpersonen die therapeutischen Ratschläge von »ChatGPT« sogar besser als die von menschlichen Therapeuten.

»Zur Vermeidung kritischer Äußerungen der Sprachmodelle eignen sich Custom GPTs, die vorgefertigte Rollen einnehmen«, weist der »c’t« Redakteur hin. Darunter gibt es welche für #Schlafprobleme, #Achtsamkeitstraining oder #Psychotherapie.

Eine weitere Alternative zum »ChatGPT« Einsatz sind außerdem zertifizierte #Gesundheits #Apps aus dem »DiGA Verzeichnis« des Bundesinstituts für #Arzneimittel. Diese arbeiten zwar noch ohne Künstliche Intelligenz, sind aber wissenschaftlich geprüft.

Grävemeyer macht jedoch deutlich: »Bei akuten Krisen ist professionelle Hilfe durch Hausärzte, psychiatrische Ambulanzen oder Psychotherapeuten unerlässlich.«