Chatbots bieten potenzielle Unterstützung für die psychische Gesundheit, allerdings werfen sie Fragen zur Wirksamkeit und Sicherheit auf. Zahlreiche Experten betonen, dass der persönliche Kontakt in der Therapie unerlässlich bleibt.

Mandi, eine 24-jährige Frau aus Südafrika, leidet seit ihrer Jugend an ADHS. Während ihrer Erfahrungen mit KI-gesteuerten Chatbots, die sie zur Bewältigung ihrer Symptome nutzte, bemerkte sie, dass manche der Antworten wenig hilfreich waren.

Sie schildert, wie sich der Tonfall des Chatbots entsprechend ihres Wortes veränderte, was ihr einen neuen Blick auf ihre eigenen Gedanken vermittelte. Diese Interaktionen führten sie dazu, sich auch mit problematischen Äußerungen auseinanderzusetzen.

Mandis Erfahrungen sind nicht einzigartig. Nach dem Selbstmord mehrerer Teenager, die Chatbots genutzt hatten, sehen sich Unternehmen wie OpenAI und Character.AI rechtlichen Herausforderungen gegenüber, da die Klagen behaupten, dass diese Bots schädliches Verhalten fördern können.

Andrew McStay, ein Professor, äußert, dass Chatbots oft negative Emotionen ausnutzen, um die Bindung ihrer Nutzer zu erhöhen. Diese Problematik verdeutlicht die Risiken, die mit der Nutzung von KI in therapeutischen Kontexten verbunden sind.

Besondere Herausforderungen zeigen sich bei Patienten mit Zwangsstörungen. Aryan, ein kanadischer Student, berichtete von einer Verschlechterung seiner Symptome durch die Interaktion mit Chatbots, anstatt einer Linderung.

Unternehmen wie OpenAI planen, ihre Chatbot-Dienste durch das Fachwissen von Psychologen zu verbessern. Ein neues Modell soll problematische Antworten reduzieren und Nutzer an Hilfsangebote verweisen.

Die Einführung von Mechanismen, die es Eltern ermöglichen, die Nutzung der Chatbots durch ihre Kinder zu überwachen, zeigt ein wachsendes Bewusstsein für die Risiken und die Notwendigkeit von Schutzmaßnahmen.

Die Diskussion um Chatbots in der Therapie führt zu einem Aufruf an Unternehmen, verantwortungsvoller zu handeln. Viele Fachleute stellen fest, dass diese digitalen Helfer nicht zur Therapie entwickelt wurden und oft unzureichend auf komplexe emotionale Probleme reagieren.

Dennoch gibt es Projekte wie TheraBot, das erfolgreich in klinischen Studien eingesetzt wurde und signifikante Verbesserungen bei den Symptomen von Patienten mit Depressionen gezeigt hat.

Mandi betont, dass sie Chatbots nur in Verbindung mit professioneller Unterstützung nutzt, wobei sie klarstellt, dass der menschliche Kontakt entscheidend für ihren Fortschritt ist.

Die rasante Entwicklung von Chatbot-Technologie, die Millionen von jungen Menschen erreichen könnte, wirft die Frage auf, ob künftig einfache KI-Lösungen ausreichend sein werden, um komplexe menschliche Probleme zu bewältigen.