Auf Band: Wenn die Therapie zur Aufnahme wird
Es beginnt mit einem Satz, den Sie vielleicht noch nie gehört haben. Er fällt am Anfang einer Sitzung, leise, formell, zwischen Türklinke und Sessel: „Diese Sitzung wird aufgezeichnet." Vielleicht nicken Sie. Vielleicht unterschreiben Sie etwas. Vielleicht fragen Sie nicht weiter, weil der Therapeut, dem Sie Ihr Innerstes anvertrauen wollen, höflich lächelt und sagt, es sei nur eine technische Erleichterung. Was hier geschieht, ist neu. Was hier geschieht, ist bislang nicht verifiziert. Eine einzelne Quellenlage liegt dieser Redaktion vor. Wir behandeln sie mit der Sorgfalt, die sie verlangt, und mit dem Misstrauen, das sie verdient.
Medical Provider in den Vereinigten Staaten — genauer: Berichte aus dem Umfeld von Kaiser Permanente, einer der größten gemeinnützigen Gesundheitsorganisationen des Landes — setzen zunehmend Künstliche Intelligenz ein, um Therapiegespräche mitzuschneiden. Das berichten americancommunitymedia.org, calmatters.org, piedmontexedra.com und californialocal.com in übereinstimmenden Wortlauten. Was als „Aufzeichnungstool" daherkommt, ist nach allem, was wir wissen, ein KI-System, das Sprache erfasst, strukturiert und in eine Akte schreibt, die bislang der Therapeut selbst führte.
Ich notiere: Anbieter psychischer Gesundheitsversorgung dürften demnach Details von Mental-Health-Sitzungen aufzeichnen. Sie tun es, weil die Software es erlaubt. Sie tun es, weil irgendwer es bezahlt. Beide Antworten sind plausibel. Keine ist bestätigt.
Die Methode ist bestechend einfach. Ein Mikrofon, ein Algorithmus, ein Speicher. Was der Patient sagt — oft das Verzweifeltste, was ein Mensch sagen kann —, wird in Text umgewandelt, mit Zeitstempel versehen, in einer elektronischen Patientenakte abgelegt. Die Therapeutin muss nicht mehr mitschreiben. Sie kann zuhören. Das ist das Versprechen. Es klingt human. Es klingt nach mehr Zuwendung. Wer würde das ablehnen?
Ich habe dreißig Jahre Forschung gesehen. Ich habe gesehen, wie Geräte, die für das Wohl des Patienten gebaut wurden, am Ende in Archiven landeten, die niemand mehr kontrollierte. Ich erinnere mich an die ersten elektronischen Patientenakten, die als „sicher" galten, bis Behörden sie für Abrechnungszwecke öffneten. Ich erinnere mich an die ersten Telemedizin-Plattformen, die als „privat" beworben wurden, bis Versicherungen sie anzapften. Das ist keine Verschwörung. Das ist Trägheit. Das ist die Schwerkraft von Daten.
Die Mitarbeiterinnen und Mitarbeiter bei Kaiser, die sich zu Wort gemeldet haben, sprechen nicht von Trägheit. Sie sprechen von fehlenden Sicherheitsvorkehrungen. Mental Health Professionals sagen, das KI-Tool brauche mehr Safeguards. Das ist der Wortlaut, den calmatters.org wiedergibt. Was Safeguards in der Praxis bedeuten — Zugriffskontrollen, Löschfristen, Verschlüsselung, wer darf mithören, wer darf mitlesen, was geschieht beim Praxiswechsel, beim Arbeitgeberwechsel, beim Versicherungsfall —, das wird nicht ausgeführt. Wir wissen es nicht. Wir wissen nur, dass Bedenken bestehen. Wir wissen nur, dass sie geäußert werden. Wir wissen nicht, ob sie gehört werden.
Die Pflicht zur Einwilligung wird erwähnt. Patienten müssen zustimmen, bevor das Tool eingesetzt wird. Das berichten alle vier zitierten Quellen übereinstimmend. Eine Einwilligung ist kein Schutz. Eine Einwilligung ist ein Türsteher, der höflich beiseitetritt, sobald die Tür erst einmal offen ist. Was mit den Aufnahmen geschieht, nachdem der Patient den Raum verlassen hat, sagt die Einwilligung in der Regel nicht. Ob sie lokal gespeichert werden, ob sie auf Servern eines Drittanbieters liegen, ob sie zu Trainingsdaten für künftige Modelle werden — all das bleibt, nach allem, was uns vorliegt, unbeantwortet. Eine einzelne Quellenlage. Wir wiederholen diesen Hinweis mit Absicht.
Denn das, was hier verhandelt wird, ist kein Tonband aus dem Jahr 1987. Es ist eine strukturierte Datenmenge, kategorisiert, durchsuchbar, verknüpfbar. Wer einmal erfasst wurde, kann wiedergefunden werden. Ein Suchbegriff genügt. Ein Arbeitgeber, der die Diagnose eines Bewerbers prüfen will. Eine Versicherung, die das Risiko eines Antrags kalkuliert. Eine Behörde, die im Rahmen welcher Ermächtigung auch immer Auskunft verlangt. Nichts davon ist bewiesen. Nichts davon ist ausgeschlossen. Genau das ist der Zustand, in dem wir uns befinden.
Ich frage mich, ob die Patienten, die in diesen Räumen sitzen, wissen, dass ihre Worte eine Reise antreten, die sie nicht gebilligt haben. Ich frage mich, ob die Therapeuten, die das Tool benutzen, wissen, was am Ende der Reise steht. Ich frage mich, wer den Vertrag unterschrieben hat, in dem festgehalten wird, was mit diesen Daten geschieht, wenn sie einmal gespeichert sind. Eine Hand wäscht die andere. Der Algorithmus macht den Anfang.
Ich rauche meine Pfeife. Die Labore mochten das nicht. Aber hier, im Redaktionsaal der Terminal Tribune, schreibe ich auf, was diejenigen, die das Tool verkaufen, nicht auf ihre Webseite schreiben: dass jede Aufnahme ein Versprechen ist. Das Versprechen, dass nichts geschieht. Das Versprechen, dass niemand zuhört. Das Versprechen, dass die Tür wieder zugeht. Ich habe solche Versprechen gehört. Sie haben ein Verfallsdatum. Sie sind mir begegnet, als Forschungsanträge zu Waffen wurden, als medizinische Datenbanken an Behörden wanderten, als der weiße Kittel zum Kostüm wurde.
Heute Abend sitzt irgendwo in Amerika ein Mensch in einem Sessel und erzählt einer Person, die er Therapeut nennt, das Schlimmste, was er je erzählt hat. Irgendwo im selben Raum summt ein Gerät. Es hört zu. Es schreibt mit. Es speichert. Es wartet. Was wartet da eigentlich, bis es abgeholt wird?