KI-Therapie erklärt: ChatGPT, Anbieter und Datenschutz

11 min read

Mit KI aus dem Englischen übersetzt. Englisches Original lesen.

Es ist zwei Uhr nachts. Alle anderen schlafen. Man möchte reden, ohne sich rechtfertigen zu müssen. Hilfe bekommen, ohne Warteliste und ohne erst auszurechnen, ob noch 100 Euro für einen Termin übrig sind. Also öffnet man eine App.

Michael, 31, nutzt ChatGPT als Gesprächspartner. Für ChatGPT legte er Regeln fest: keine Diagnosen, keine vorschnellen Ratschläge, nicht ständig zustimmen. In einem Bericht vom Februar 2026 erzählte er, er habe seine wöchentliche Therapie nach zwei Jahren beendet, vor allem aus Kostengründen. Per Prompt wies er dem Chatbot die Rolle eines klinischen Coaches zu. Er nennt ihn seinen psy de poche, seinen Psychologen für die Hosentasche.

Der Chatbot helfe ihm, Gedankenschleifen zu erkennen, verliere aber den Zusammenhang aus dem Blick, sagt Michael. Er befürchtet, dass jemand in einer schwierigeren psychischen Verfassung mit der KI immer wieder dieselben Gedanken durchgehen könnte, ohne aus ihnen herauszufinden. Michael muss also selbst darauf achten, wohin das Gespräch führt.

Ich verstehe den Reiz. Die App ist immer dabei. Und einer Maschine etwas Peinliches zu erzählen, fällt womöglich leichter als einem Menschen. Nur sagt das Gefühl, nicht verurteilt zu werden, noch nichts darüber aus, wer das Gespräch später lesen kann.

ChatGPT als Therapeut: Warum Menschen mit KI über Probleme sprechen

Für Rayan, 22, war ChatGPT schneller verfügbar und günstiger als eine Sitzung für 80 Euro. Gegenüber L’Etudiant sagte er: „Es antwortet nie mit Nein.“

Loéva, 24, suchte nach einer Trennung Unterstützung. Chiara hatte das Gefühl, ihren Freunden zur Last zu fallen. Lucien, 22, ging bereits einmal im Monat zu einem Psychologen und nutzte den Chatbot als letzte Anlaufstelle.

Wer all das „KI-Therapie“ nennt, fasst sehr unterschiedliche Bedürfnisse zusammen. Gedanken aufschreiben, sie hinterfragen und andere Reaktionen einüben kann Teil einer Therapie sein. Manchmal möchte jemand aber einfach reden. Eine Klinik will vielleicht, dass Patienten zwischen den Sitzungen Übungen machen. Wer nachts die App öffnet, möchte zunächst eine Antwort.

Die unmittelbare Verfügbarkeit erklärt einen großen Teil des Reizes. Dabei stellt sich die Frage, was Menschen von dieser Unterstützung erwarten dürfen, wenn das Gespräch schwieriger wird.

Datenschutz bei KI-Therapie: Wer kann Gespräche lesen?

Dass Menschen einer Maschine leichter Persönliches erzählen, ist kein neuer Gedanke. In einem Experiment mit einem virtuellen Interviewer von 2014 hatten Teilnehmende weniger Angst, sich zu öffnen, wenn sie das Gegenüber für automatisiert hielten. Wer einen Menschen dahinter vermutete, war zurückhaltender. Die Untersuchung stammt aus der Zeit vor den heutigen Chatbots. Sie beschreibt aber einen vertrauten Reiz: reden zu können, ohne sich darum zu sorgen, was das Gegenüber von einem hält.

Wer die Nutzung seiner Chats fürs Modelltraining abschaltet, löscht damit noch kein Gespräch. OpenAI und Anthropic unterscheiden zwischen Modellverbesserung, Datenspeicherung und dem Zugriff für bestimmte Zwecke. Ihre Richtlinien nennen Löschfristen und Ausnahmen. Was die Einstellungen im Einzelnen schützen, müssen Nutzer selbst herausfinden.

Kliniken können andere Vertragsbedingungen vereinbaren. Bei den Unternehmensprodukten von OpenAI und den kommerziellen Angeboten von Anthropic werden Ein- und Ausgaben standardmäßig nicht fürs Training verwendet. Ausnahmen gelten etwa bei freiwilliger Freigabe oder bestimmten Rückmeldungen. Wie die darauf aufbauende App mit Speicherung, Zugriff und Löschung umgeht, regeln wiederum die Bedingungen ihres Anbieters. Wer Menschen dazu einlädt, offen zu sprechen, muss ihnen erklären können, wer mitlesen darf.

Ash, Limbic und clare&me: Welche Angebote gibt es?

Angebot	Einsatz	Worauf es ankommt
ChatGPT	Allgemeiner KI-Assistent, den Menschen auch für persönliche Gespräche nutzen	Ein therapeutischer Prompt ersetzt keinen Nachweis einer Behandlung. Training, Speicherung und Zugriff sind getrennt zu prüfen.
Ash	Spezialisierte KI-Gespräche für psychische Unterstützung	Nach Anbieterangaben ist für das Training mit Gesprächsprotokollen eine Einwilligung nötig. Eine klinische Übergabe wird in der Sicherheitsrichtlinie nicht zugesagt.
Limbic	Access unterstützt die Aufnahme und Einschätzung; Care bietet Übungen und Begleitung	Access und Care sind getrennte Produkte. Der regulatorische Status von Access gilt nicht automatisch für Care.
clare&me	Selbsthilfe per Telefon und WhatsApp, auch als Angebot für Arbeitgeber	Keine traditionelle Psychotherapie laut Anbieter. Mitarbeiter können unter bestimmten Bedingungen Gesprächsaufzeichnungen prüfen.

Einordnung anhand der im Artikel verlinkten Quellen. Kein eigener Produkttest und keine Rangliste.

Slingshot AI, das Unternehmen hinter Ash, hat Büros in New York und London. Mit Ash solle Unterstützung weder eine Diagnose noch ein Vermögen voraussetzen, schrieb Mitgründer Daniel Cahn im Juli 2025. Nach Angaben des Unternehmens soll das Modell Nutzer auch hinterfragen, statt ihnen nach dem Mund zu reden.

Laut Datenschutzrichtlinie dürfen Gesprächsprotokolle nur mit Einwilligung der Nutzer zum Training oder zur Verbesserung des Modells verwendet werden. Die Richtlinie beschreibt eine verschlüsselte Speicherung und begrenzt den routinemäßigen Zugriff durch Mitarbeiter. Bei gesetzlichen Pflichten oder unmittelbar drohendem schwerem Schaden können Daten weitergegeben werden. Daraus lässt sich mehr ablesen als aus dem Versprechen, ein Chatbot urteile nicht über einen: Es beschreibt, was das Unternehmen nach eigenen Angaben mit dem Gespräch tun darf.

Limbic aus London verkauft KI-Software an Einrichtungen der psychischen Gesundheitsversorgung. Limbic Access erfasst vor einem Termin Informationen und unterstützt die klinische Einschätzung. Das Unternehmen bezeichnet Access als Medizinprodukt der Klasse IIa.

Das separate Produkt Limbic Care soll Patienten während der Wartezeit auf eine Behandlung und zwischen den Sitzungen unterstützen. In den Beschaffungsunterlagen stehen therapeutische Übungen, eine Übersicht für das Behandlungsteam, Risikohinweise, Einrichtungshilfe und Mitarbeiterschulungen. Die Zertifizierung von Access gilt nicht automatisch auch für Care. Zum Start von Care erklärte Limbic, Patienten könnten Fragen zu Therapiematerialien stellen und zwischen den Sitzungen Übungen bearbeiten. Das helfe ihnen, die Behandlung fortzusetzen und schneller gesund zu werden.

clare&me, ein KI-Angebot des deutschen Unternehmens HealthyCloud, spricht auch Arbeitgeber direkt an. Auf der Seite zum betrieblichen Angebot wirbt das Unternehmen mit Gesprächen rund um die Uhr per Telefon und WhatsApp sowie den Worten „Kein Mensch beteiligt“. Es stellt Vorteile bei Produktivität und Fehlzeiten in Aussicht. Die jährliche Investition könne sich in weniger als einem Monat amortisieren. Wie diese Rechnung zustande kommt, bleibt auf der Seite offen: Preise, Ausgangskosten und gemessene Einsparungen fehlen.

Beschäftigte suchen Unterstützung, Arbeitgeber erwarten einen wirtschaftlichen Nutzen. Die Zahl der Gespräche zeigt zunächst nur, dass ein Angebot genutzt wird. Was es für die Menschen verbessert, ist eine andere Frage.

Was Studien zur Wirkung von KI-Therapie zeigen

Eine randomisierte Studie mit Beteiligung von Limbic untersuchte Nutzung und Wirkung. Sie erschien im Januar 2026 in Communications Medicine. 540 Erwachsene in den USA mit erhöhten Angst- oder Depressionssymptomen erhielten für sechs Wochen entweder Zugang zu Limbic Care oder digitale Arbeitshefte.

Mit der App war die Nutzungshäufigkeit 2,4-mal so hoch, die Nutzungsdauer 3,8-mal so hoch wie mit den Arbeitsheften. Bei Angst- und Depressionssymptomen verbesserten sich beide Gruppen insgesamt jedoch vergleichbar. Untersucht wurde die eigenständige Nutzung. Personen, die ein Risiko für Selbst- oder Fremdgefährdung angegeben hatten, waren ausgeschlossen.

Welche Risiken haben KI-Gespräche bei psychischen Krisen?

Laut Sicherheitsrichtlinie soll Ash die Beziehungen der Nutzer zu anderen Menschen stärken, statt sie zu ersetzen. Doch auch ein allgemeiner KI-Assistent kann zum Vertrauten werden. Ein Gespräch beginnt mit einem schlechten Tag und dreht sich irgendwann darum, ob jemand weiterleben will.

Risiken können erst im Verlauf eines Gesprächs sichtbar werden. Eine ausdrücklich gefährliche Anfrage abzufangen ist eine Aufgabe. Zu erkennen, dass ein zunächst unauffälliges Gespräch kippt, eine andere.

Wie reagieren Ash, Limbic und clare&me auf Krisen?

Limbic gibt an, dass Access mögliche Krisen erkennt, auf externe Hilfsangebote hinweist und klinisches Personal benachrichtigt. Die Beschreibung der klinischen Architektur sieht Prüfungen sowohl der Nutzereingaben als auch der Modellantworten vor. Bei Anzeichen eines Risikos kann das System an einen Menschen weiterleiten, statt das Sprachmodell antworten zu lassen. Diese Warnung muss allerdings jemand entgegennehmen und bearbeiten, auch außerhalb der Arbeitszeiten.

Nach Ashs Sicherheitsrichtlinie verweist das Produkt bei Bedarf auf externe Hilfsangebote. Bleibt der Nutzer im Chat, kann das Gespräch weitergehen. Slingshot begründet das damit, dass ein abrupter Abbruch das Gefühl verstärken könne, allein gelassen zu werden, besonders ohne andere Anlaufstelle. Wer bereits vergeblich nach Hilfe gesucht hat, kann mit „Bitte suchen Sie anderswo Hilfe“ wenig anfangen. Eine Übergabe an klinisches Fachpersonal verspricht die Richtlinie allerdings nicht.

clare&me erklärt in seinen FAQ für Privatnutzer, der Dienst könne bei komplexen Themen wie Selbstverletzung und Suizidgedanken nicht helfen, und empfiehlt menschliche Unterstützung. Die Hinweise zur Datenverarbeitung sehen unter bestimmten Bedingungen Mitarbeiterzugriff vor, auch bei einer Risikomeldung des Systems. Wie schnell eine solche Prüfung erfolgt und was darauf folgt, bleibt offen. „Kein Mensch beteiligt“ bezieht sich damit auf das Gespräch, nicht auf jeden möglichen Zugriff auf dessen Inhalt.

Auf den öffentlichen Seiten bleibt manches offen. Einzelverträge können diese Fragen klären. Eine Klinik muss wissen, wer eine Warnung erhält und was diese Person dann tun soll. Übernimmt das eigene Personal diese Aufgabe, gehört seine Arbeitszeit in die Kostenrechnung. Unser Fehlertest für KI-Autonomie untersucht, wie Betreiber in anderen Branchen festlegen, wann Menschen eingreifen müssen.

Der Chatbot ist womöglich die ganze Nacht erreichbar. Die Menschen, die auf seine Warnungen reagieren sollen, sind es vielleicht nicht.

Was passiert, wenn eine KI-App eingestellt wird?

Im Januar 2026 zog sich Ash wegen regulatorischer Bedenken aus Großbritannien zurück, wie STAT berichtete. In einer späteren Slingshot-Befragung von 393 ehemaligen Nutzern gaben 27 Prozent an, sich danach hauptsächlich auf allgemeine KI-Assistenten zu verlassen. Weitere 26 Prozent berichteten, keine Unterstützung mehr zu haben. Der vom Entwickler geleitete Preprint erfasst diese Befragten und lässt sich nicht auf alle ehemaligen Nutzer übertragen. Er zeigt aber, dass ihr Bedarf mit dem Rückzug der App nicht verschwand.

Kliniken und Arbeitgeber müssen deshalb schon beim Kauf über Kündigungsfristen, den späteren Zugang zu Aufzeichnungen und den Wechsel zu einem anderen Angebot nachdenken. Im Vertrag endet ein Softwarezugang. Für die Menschen dahinter fällt womöglich eine vertraute Unterstützung weg.

Was Kliniken und Arbeitgeber vor dem Kauf prüfen sollten

Die Angebote sollen dabei helfen, Gedanken zu ordnen und zwischen Terminen Unterstützung zu bekommen. Wer damit Geld verdient, muss aber erklären können, welche Verantwortung er übernimmt. Eine Klinik braucht Belege für bessere Behandlungsergebnisse oder eingesparte Zeit. Ein Arbeitgeber muss die versprochene Rendite nachvollziehen können. Und Nutzer müssen wissen, was passiert, wenn ein Gespräch allein nicht mehr hilft.

Michael hat seinem Chatbot selbst Regeln gegeben. Wer für ein spezialisiertes Angebot bezahlt, sollte weniger selbst überwachen müssen. Dazu gehört Klarheit darüber, wer persönliche Informationen nutzen darf und wer im Ernstfall reagiert. Wie viel dieser Verantwortung übernimmt der Anbieter tatsächlich, und wie viel bleibt bei dem Menschen, der um zwei Uhr nachts die App öffnet?

Häufige Fragen zu KI-Therapie, ChatGPT und Datenschutz

Kann ChatGPT eine Psychotherapie ersetzen?

Ein allgemeiner KI-Assistent ist nicht mit einer fachlich betreuten Psychotherapie gleichzusetzen. Die hier untersuchten Angebote unterscheiden sich bei Zweck, klinischer Einbindung und Verantwortung. Ein Prompt, der ChatGPT zum Therapeuten erklärt, belegt weder eine therapeutische Qualifikation noch die Wirksamkeit einer Behandlung.

Sind Gespräche mit einer KI vertraulich?

Das hängt vom Produkt und seinen Bedingungen ab. Das Abschalten des Modelltrainings bedeutet nicht automatisch, dass Gespräche sofort gelöscht werden oder niemand darauf zugreifen kann. Zu prüfen sind Speicherfristen, mögliche Mitarbeiterzugriffe und Regeln zur Weitergabe.

Was unterscheidet Ash, Limbic und clare&me?

Ash bietet spezialisierte KI-Gespräche. Limbic verkauft mit Access und Care unterschiedliche Produkte für die Gesundheitsversorgung. clare&me bietet sprachbasierte Selbsthilfe und spricht auch Arbeitgeber an. Die Produkte erfüllen unterschiedliche Aufgaben und sind deshalb nicht direkt austauschbar.

Ist die Wirksamkeit von KI-Therapie bewiesen?

Die Ergebnisse hängen vom konkreten Produkt und Einsatz ab. In der hier besprochenen Studie mit 540 Erwachsenen wurde Limbic Care häufiger und länger genutzt als digitale Arbeitshefte. Die Angst- und Depressionssymptome verbesserten sich insgesamt vergleichbar. Mehr Nutzung allein belegt daher keine bessere Wirkung.

Was kostet KI-Therapie?

Es gibt keinen einheitlichen Preis. Verbraucher-Apps, institutionelle Lizenzen und Arbeitgeberangebote werden unterschiedlich abgerechnet. Für das hier beschriebene betriebliche Angebot von clare&me nennt die ausgewertete Unternehmensseite keinen öffentlichen Preis. Kliniken und Arbeitgeber müssen zusätzlich Einrichtung, Betreuung und den Aufwand für Warnmeldungen berücksichtigen.

So berichten wir

Auch bei Clementines Telefonagenten für die Hörversorgung geht es um die Frage, was ein KI-Gespräch über das Antworten hinaus bewirken soll. Der Artikel betrachtet den Unterschied zwischen einem verfügbaren Gesprächspartner und einer überprüften Intervention, die Verhalten verändern soll.

Für diesen Artikel hat Industry Contents am 22. Oktober 2026 veröffentlichte Studien, Medienberichte und Unternehmensunterlagen ausgewertet. Angaben der Unternehmen sind als solche gekennzeichnet. Preise, regulatorischer Status und Vertragsbedingungen können je nach Produkt und Einsatz variieren.

Quellen und weitere Verweise