Hört die KI beim Therapeuten zu? Eine Meldung, die der Prüfung bedarf

Eine Meldung aus dieser Woche verdient mehr als die übliche Hektik der Ticker. Sie verdient Kälte.

Mental-Health-Fachleute bei Kaiser Permanente, einem der größten gemeinnützigen Gesundheitskonzerne der Vereinigten Staaten, äußern Bedenken gegen ein KI-Werkzeug, das medizinische Termine aufzeichnet – auch psychiatrische Sitzungen. Die Kritik ist nicht technischer Art. Sie lautet: Es brauche mehr Sicherungen. Vor dem Einsatz des Werkzeugs, so der Bericht, sind die Behandler verpflichtet, die Einwilligung ihrer Patienten einzuholen.

So weit, so verfügbar. Eine einzige Quelle trägt diese Meldung bislang: ein Bericht von LAist, einem gemeinnützigen kalifornischen Nachrichtenportal, veröffentlicht Mitte Juni. Eine Bestätigung durch eine zweite, unabhängige Redaktion liegt mir zum Zeitpunkt dieser Niederschrift nicht vor. Was die Nachrichten-Aggregation NewsNow und ein Fachbeitrag auf LinkedIn verbreiten, verweist auf dieselbe Quelle. Es ist Echo, nicht zweite Stimme.

Ich sage das hier ausdrücklich, weil der Gegenstand es verlangt. Es geht um den intimsten Raum, den ein Mensch außerhalb seines Schlafs betritt: das Sprechzimmer eines Psychiaters, Psychotherapeuten oder klinischen Psychologen. Was dort gesprochen wird, ist kein Symptom wie Fieber oder ein gebrochener Knochen. Es ist Erzählung, es ist Biographie, es ist, in nicht wenigen Fällen, Geständnis. Wer diese Erzählung aufzeichnet, besitzt eine Karte des Inneren.

Die Frage, die ich seit dreißig Jahren in jedem Labor dieser Welt stelle, ist die nach dem Eigentümer der Daten. Nicht der Patient. Nicht der Behandler. Die Frage lautet: Wer sitzt am anderen Ende der Leitung?

Im Vokabular unserer Tage nennt man das Überwachungskapitalismus. Der Begriff ist abgenutzt, aber er beschreibt exakt, was zu beschreiben ist: eine Ökonomie, die dann Gewinn erzeugt, wenn aus dem Verhalten des Menschen ein Datum wird, aus dem Datum ein Profil, aus dem Profil eine Voraussage, aus der Voraussage ein Produkt. In der psychischen Gesundheit ist das Produkt kein Schuhtipp. Es ist die Vorhersage von Anfälligkeit. Von Risiko. Von Kosten.

Ich sage nicht, dass dies hier geschieht. Ich sage, dass diese Frage gestellt werden muss, bevor irgendein Akteur behauptet, sie stelle sich nicht.

Kaiser Permanente hat betont, dass die Einwilligung der Patienten Voraussetzung sei. Das ist gut. Es ist nicht genug. Eine Einwilligung, erteilt vor dem Sprechzimmer, unter dem Druck einer ohnehin angespannten seelischen Lage, ist keine freie Einwilligung im strengen Sinne des Wortes. Sie ist eine Formalität. Formalien schützen Institutionen. Sie schützen keine Patienten.

Was fehlt, ist die externe Prüfung. Die Liste der Personen und Institutionen, die in den Datenstrom sehen, ist mir nicht bekannt. Ob die Aufzeichnungen lokal verbleiben, ob sie in eine cloudbasierte Verarbeitung gehen, ob Drittparteien – Anbieter von KI-Transkription, Versicherer, Forschungsabteilungen – Zugriff haben: All das steht in dem mir vorliegenden Bericht nicht. Es ist eine Lücke, und sie ist nicht zufällig.

Kollegen aus der Versorgungsforschung melden sich in diesen Tagen mit einer Gegenfrage: Wann wurde die Schwelle überschritten, an der die Dokumentation klinischer Praxis zu einer Industrie wurde? Ich habe darauf keine saubere Antwort. Ich habe eine ungefähre: Irgendwann zwischen der Einführung der elektronischen Patientenakte und dem Moment, in dem medizinische Versorgung begann, ihre Datenpraxis zu industrialisieren.

Ich werde diese Geschichte weiterverfolgen. Ich werde sie nicht veröffentlichen, bevor sie zwei voneinander unabhängige Quellen tragen. Wer heute schon Schuldige benennt, schreibt keine Reportage. Er schreibt Pamphlet.

Eine letzte Beobachtung. Die NHS, der staatliche Gesundheitsdienst Großbritanniens, hält auf eigenen Seiten Informationen und Hilfsangebote zur psychischen Gesundheit bereit – öffentlich, nicht-kommerziell, nicht aufzeichnend, was sie nicht aufzuzeichnen braucht. Das Modell existiert. Es ist nicht utopisch. Es ist lediglich nicht profitabel.

Und genau darin liegt die Frage, die offen bleiben muss, bis die Fakten auf dem Tisch liegen: Wem nützt es, wenn die Stimme eines Menschen, der in Therapie spricht, zu einer Datei wird – und wer entscheidet, dass wir das hinnehmen?