Die stille Zeugin im Therapiesessel
Ein psychotherapeutisches Gespräch soll geschützt sein. Zunehmend setzen Anbieter psychischer Gesundheitsversorgung KI-Technik ein, um Gespräche aufzuzeichnen. The Markup stellt deshalb die nüchterne Warnung voran: „Your medical provider might be recording your mental health care visits.“ Das Mikrofon sitzt damit nicht mehr nur im Raum, sondern in der Datenarchitektur des Gesundheitsnetzes.
A psychotherapeutic conversation is supposed to be protected. Mental health care providers are increasingly using AI technology to record conversations. The Markup therefore opens with a plainspoken warning: “Your medical provider might be recording your mental health care visits.” The microphone is no longer merely in the room; it is embedded in the data architecture of the health-care network.
Kaiser Permanente kündigte 2024 die Einführung von Abridge an. Die Pressemitteilung nennt eine KI-Schreibassistenz für „ambient listening“, die Klinikern helfen soll, klinische Notizen zu erfassen. Tatsächlich zeichnet das Werkzeug ganze medizinische Termine auf, auch tief persönliche psychische Gesundheitsgespräche. Vor dem Einsatz müssen Behandelnde die Zustimmung der Patienten einholen. Nach Auskunft mehrerer Beschäftigter erklärt dieser Ablauf nicht, wie die Informationen behandelt, wie lange und wo Aufzeichnungen gespeichert werden oder wer Zugriff hat. Trotz Nachfragen teilte Kaiser ihnen diese Angaben nicht mit.
Ilana Marcucci-Morris, lizenzierte klinische Sozialarbeiterin in der Kaiser-Psychiatrie und Mitglied eines Verhandlungsausschusses, fragte Kaiser-Vertreter, darunter den Direktor für psychische Gesundheit in Northern California, nach Datenschutz, HIPAA-Konformität und Schutzmechanismen. Die Antworten seien leere Zusicherungen gewesen: Man sei konform, die Technologie geprüft, weiteres sei nicht ihre Aufgabe. Marcucci-Morris fordert genau diese Prüfung: Wer nichts zu verbergen habe und ethisch arbeite, müsse es zeigen und beweisen. Kaiser habe sich geweigert.
Auch Ligia Pacheco, eine psychosoziale Arbeiterin, die Kaiser-Patienten in Southern California ferntherapeutisch behandelt, berichtet, weitere Erklärungen seien verweigert worden. Eine Kollegin hatte ihre Bedenken zu KI einer Führungskraft vorgetragen; die Reaktion: Es sei unprofessionell, persönliche Überzeugungen in den Arbeitsalltag einzubringen. Pacheco nennt die Folge niedrige Moral und kaum Raum, für besonders verletzliche Patienten einzutreten.
Die Zustimmung ist ein Muss, aber sie beantwortet die entscheidende Frage nicht: Wofür werden die Daten genutzt, wo bleiben sie, wer darf sie sehen? Eine Unterschrift deckt keine unbekannte Architektur ab. Wer während der Sitzung nicht weiß, ob das Gespräch nur dokumentiert oder zusätzlich ausgewertet wird, muss mit dieser Unklarheit leben. Die Möglichkeit einer unbekannten Weiterverwendung erzeugt genau jene Überwachungsangst, die private Worte in der Therapie besonders angreifbar macht. Der Bericht belegt keine heimliche Weitergabe, keinen Verkauf und keinen unbefugten Zugriff. Er belegt eine Kontrolllücke.
Die Interessenlage ist asymmetrisch. Abridge soll Behandelnden Dokumentationsarbeit abnehmen. Kaiser kann den Einsatz standardisieren, der Anbieter einen Zugang zu einem sensiblen Versorgungsbereich gewinnen. Wer wirtschaftlich profitiert, ist nicht offengelegt; zu Lizenzen, Preisen und Erlösen schweigt die Berichterstattung. Auch die Governance bleibt im Dunkeln: Wer hält Patente und Nutzungsrechte? Gibt es eine unabhängige Validierungsstudie, wer hat sie beauftragt und bezahlt? Wer sitzt in welchem Aufsichtsrat? Ohne Antworten sind Interessenkollisionen nicht prüfbar. Kaisers HIPAA-Versprechen bleibt im Bericht eine Behauptung, keine unabhängig geprüfte Tatsache.
American Community Media bestätigt im Kern, dass psychische Gesundheitsversorgung zunehmend KI zum Aufzeichnen von Gesprächen einsetzt und vorherige Zustimmung verlangt wird. CalMatters berichtet ebenfalls, dass Beschäftigte bei Kaiser mehr Schutzmechanismen fordern. Diese Bestätigungen stützen das Grundphänomen, ersetzen aber keine technische Prüfung von Speicherung, Zugriff und Löschung. Die konkreten Auskünfte zum Ablauf stammen von Beschäftigten; eine unabhängige Prüfung wird nicht offengelegt. Der Bericht belegt weder einen HIPAA-Verstoß noch Datenmissbrauch. Das Fehlen solcher Nachweise ist zugleich kein Freipass.
Für Betroffene sind außerdem die bereitgestellten Suchwerkzeuge relevant: Mit ihnen findet man einen Arzt, einen Zahnarzt oder eine Gesundheitseinrichtung des Netzwerks, etwa ein Krankenhaus oder eine Dringlichkeitsklinik. Ergänzend gibt es Verzeichnisse für psychische Gesundheitsfachkräfte und -einrichtungen. Doch ein Verzeichnis beantwortet nicht, ob das eigene Therapiegespräch aufgezeichnet wird. Vor der Zustimmung gehören Aufbewahrungsdauer, Speicherort, Zugriffsberechtigte, Vertragsparteien und Löschregeln offengelegt. Bis die Antworten dokumentiert sind, bleibt die Zustimmung eine Unterschrift unter eine Leerstelle.
❖ Ende des Artikels ❖