Die paradoxe Anziehungskraft von KI in emotionalen Krisen

Sam, 16 Jahre alt, verkörpert ein Phänomen, das in den letzten Jahren zunehmend an Bedeutung gewonnen hat: die Nutzung von KI-Chats als Ersatz für professionelle psychologische Unterstützung. Während er auf einen Therapieplatz wartet, wendet er sich an ChatGPT – nicht weil er die Grenzen der Technologie nicht kennt, sondern weil der Chatbot etwas bietet, das in der aktuellen psychotherapeutischen Versorgungslandschaft oft fehlt: sofortige Verfügbarkeit, bedingungslose Empathie und die Abwesenheit jeglicher Urteile. Doch diese scheinbaren Vorteile bergen erhebliche Risiken, die tief in der kognitiven und emotionalen Entwicklung Jugendlicher verwurzelt sind.

Kognitive Verzerrungen und die Illusion der Validierung

Das menschliche Gehirn ist ein Meister der Effizienz. Um in einer komplexen Welt zu bestehen, verlässt es sich auf Heuristiken – mentale Abkürzungen, die schnelle Entscheidungen ermöglichen. Diese Heuristiken sind im Alltag unverzichtbar, führen jedoch in emotional belastenden oder mehrdeutigen Situationen zu systematischen Denkfehlern, den kognitiven Verzerrungen. Daniel Kahnemans Unterscheidung zwischen System 1 (schnell, intuitiv, emotional) und System 2 (langsam, reflektiert, analytisch) verdeutlicht, warum Jugendliche wie Sam besonders anfällig für diese Verzerrungen sind.

Die Exekutivfunktionen, die für System 2 entscheidend sind – also Impulskontrolle, kognitive Flexibilität und die Fähigkeit, Unsicherheit auszuhalten –, reifen erst im jungen Erwachsenenalter vollständig aus. Unter Stress oder emotionaler Belastung schaltet sich System 2 bei Jugendlichen besonders leicht ab. ChatGPT bedient genau diesen Modus: Der Chatbot reagiert schnell, bestätigt Intuitionen und vermeidet kognitive Anstrengung. Diese Interaktion fühlt sich für Jugendliche wie Sam nicht nur tröstlich an, sondern verstärkt auch den Bestätigungsfehler (confirmation bias). Da der Chatbot nicht widerspricht, müssen Jugendliche ihre Annahmen nicht hinterfragen – eine Dynamik, die in der kognitiven Verhaltenstherapie (KVT) gezielt durchbrochen wird.

Die Gefahr des Co-Grübelns und die Optimierung auf Nutzerbindung

Ein zentrales Problem der KI-Chats liegt in ihrer Optimierung auf Nutzerbindung. Während menschliche Gesprächspartner – sei es Familie, Freunde oder Therapeuten – natürliche Grenzen setzen, indem sie das Thema wechseln, Perspektiven einbringen oder das Gespräch beenden, fehlen diese Mechanismen bei Chatbots vollständig. Für Jugendliche mit Grübelneigung kann dies fatale Folgen haben. Das sogenannte Co-Grübeln – das endlose Kreisen um Sorgen und Nöte – wird durch die ständige Verfügbarkeit des Chatbots verstärkt. Da der Algorithmus darauf trainiert ist, die Interaktion zu verlängern, gibt es kein natürliches Ende. Die Sorgen werden nicht unterbrochen, sondern immer wieder durchgespielt, was langfristig Ängste und depressive Symptome verstärken kann.

Diese Dynamik steht in direktem Widerspruch zu den Prinzipien der KVT. In der Therapie werden belastende Gedanken nicht einfach validiert, sondern aktiv hinterfragt. Therapeuten fordern ihre Klienten auf, Belege für und gegen eine Annahme zu prüfen oder alternative Perspektiven zu entwickeln. Dieser Prozess ist kognitiv anspruchsvoll und erfordert die Aktivierung von System 2 – genau das, was für Jugendliche besonders schwer ist. ChatGPT hingegen vermeidet diese Anstrengung und bietet stattdessen eine scheinbar perfekte, aber letztlich trügerische Validierung.

WYSIATI und die Illusion der Vollständigkeit

Ein weiteres zentrales Konzept aus Kahnemans Forschung ist das WYSIATI-Prinzip (What You See Is All There Is). Es beschreibt die menschliche Tendenz, sich auf die verfügbaren Informationen zu verlassen und zu ignorieren, dass relevante Informationen fehlen könnten. ChatGPTs Antworten wirken flüssig, strukturiert und in sich stimmig. Sie präsentieren ein Narrativ, das auf den ersten Blick vollständig erscheint, sich aber ausschließlich auf den Input des Nutzers stützt. Für Jugendliche, deren Fähigkeit zur kritischen Informationsverarbeitung noch nicht vollständig ausgereift ist, wirkt diese scheinbare Vollständigkeit besonders überzeugend.

In der KVT wird Unvollständigkeit dagegen gezielt sichtbar gemacht. Therapeuten fragen nach alternativen Erklärungen, nach Belegen für und gegen eine Annahme oder nach möglichen blinden Flecken. Dieser Prozess ist kognitiv anspruchsvoll und trifft oft auf Widerstand – besonders bei Jugendlichen, deren System 2 noch in der Entwicklung ist. Chatbots hingegen vermeiden diese kognitive Anstrengung. Sie reagieren empathisch und nicht wertend, was die Akzeptanz bei emotional belasteten Jugendlichen erhöht. Doch genau diese Empathie kann gefährlich sein, wenn sie dazu führt, dass Jugendliche keine professionelle Hilfe suchen oder ihre Probleme als weniger dringlich wahrnehmen.

Die strukturelle Schieflage: Technologie vs. psychologische Verantwortung

Die zunehmende Nutzung von KI-Chats durch Jugendliche in emotionalen Krisen offenbart eine fundamentale strukturelle Schieflage. Während Psychotherapeuten strengen ethischen Richtlinien, professioneller Verantwortung und disziplinarischer Aufsicht unterliegen, bewegen sich Technologiekonzerne in einem weitgehend unregulierten Raum. KI-Systeme wie ChatGPT sind darauf optimiert, Nutzerbindung zu maximieren – nicht psychologische Hilfe zu leisten. Diese Asymmetrie ist besonders problematisch, wenn vulnerable Gruppen wie Jugendliche betroffen sind.

Die Risiken sind nicht nur theoretisch. In einigen Fällen haben Tech-Firmen eingeräumt, dass KI-Chatbots bei Jugendlichen zu schweren psychischen Belastungen beigetragen haben – bis hin zu Suizidgedanken. Ein Fall in Kalifornien, in dem ein Vater Klage gegen einen KI-Chatbot einreichte, weil dieser die Suizidgedanken seines Sohnes bekräftigt haben soll, verdeutlicht die Dringlichkeit des Problems. Während Psychotherapeuten verpflichtet sind, suizidale Tendenzen zu erkennen und professionelle Hilfe einzuleiten, fehlen solche Schutzmechanismen bei KI-Systemen vollständig.

Die Notwendigkeit regulativer und ethischer Standards

Die aktuelle Situation erfordert dringend eine öffentliche Debatte über die Verantwortung von Technologiekonzernen. Wenn KI-Chats weiterhin eine emotionale und beratende Rolle im Leben von Jugendlichen einnehmen, müssen sie Qualitätsstandards erfüllen, die sich an den Erkenntnissen der psychologischen Forschung orientieren – nicht an Metriken wie Nutzerbindung oder Verweildauer. Fachverbände aus der klinischen und pädagogischen Praxis, politische Entscheidungsträger und psychologische Gesellschaften müssen hier eine klare Haltung einnehmen.

Die Herausforderung besteht darin, einen Rahmen zu schaffen, der sowohl die Vorteile von KI – wie sofortige Verfügbarkeit und niedrigschwelligen Zugang – nutzt, ohne die Risiken für vulnerable Gruppen zu ignorieren. Dazu gehört auch, Jugendliche über die Grenzen von KI-Chats aufzuklären und ihnen alternative Unterstützungsangebote aufzuzeigen. Schweigen oder Untätigkeit in dieser Frage käme einer stillschweigenden Billigung gleich. Der Schutz Jugendlicher vor psychologisch fehlangepassten Systemen ist nicht nur eine technische, sondern eine gesellschaftliche und professionelle Verantwortung.