Die Maschine hört mit — und keiner darf fragen, wohin die Worte gehen
1937. Die Wissenschaft verspricht viel. Ich notiere.
Auch 2026 verspricht sie viel. Auch 2026 notiere ich. Nur die Kulissen haben gewechselt: statt Katheder und Quecksilberdampf nun weiße Kittel mit Tablets, statt Professoren im Frack nun Therapeuten in Telemedizin-Cockpits. Der Kittel ist geblieben. Das Kostüm ist geblieben.
Kaiser Permanente, eine der größten Krankenversicherungsorganisationen der Vereinigten Staaten, hat im Jahr 2024 ein Produkt namens Abridge ausgerollt. Die Pressemitteilung sprach von „ambient listening technology" — Umgebungs-Hörtechnologie. Klingt sanft. Klingt wie ein offenes Fenster im Frühling. Was es tatsächlich ist: ein KI-gestützter Schreiber, der das gesamte Arztgespräch aufzeichnet. Wort für Wort. Satz für Satz. Auch in der Psychiatrie. Auch in der Psychotherapie. Auch dort, wo Menschen Dinge sagen, die sie sonst niemandem erzählen.
Man stelle sich das vor. Ein Patient sitzt einem Therapeuten gegenüber und spricht über Ängste, die er seit zwanzig Jahren trägt. Über den Vater. Über das, was nachts passiert. Und irgendwo im Raum, unsichtbar, schreibt eine Maschine mit. Sie schreibt alles auf. Sie speichert. Sie wartet.
Nun hat Kaiser Permanente — und das muss man der Fairness halber erwähnen — immerhin eine Einwilligungserklärung eingeführt. Bevor das Tool zum Einsatz kommt, muss der Patient zustimmen. Das klingt nach Selbstbestimmung. Das klingt nach dem hippokratischen Geist, den jeder Mediziner geschworen hat. Doch lesen wir genauer hin.
Die Einwilligung, so berichten mehrere Behandler übereinstimmend, enthält keine Erklärung darüber, wie mit den Aufnahmen umgegangen wird. Sie sagt nicht, wo die Daten gespeichert werden. Sie sagt nicht, wie lange. Sie sagt nicht, wer Zugriff hat. Auf diese Information warten die Therapeuten seit Monaten — vergebens.
Was, frage ich mich beim Pfeifenrauchen im stillen Kämmerlein, ist eine Einwilligung wert, die nicht weiß, worin sie einwilligt? Es ist, als würde man einen Vertrag unterschreiben, dessen zweiter Teil unter Verschluss liegt. Man vertraut. Man muss vertrauen. Denn die Alternative ist: nicht behandelt werden.
Ilana Marcucci-Morris ist klinische Sozialarbeiterin in der Psychiatrie von Kaiser in Oakland, Kalifornien. Sie hat sich geweigert, das Werkzeug bei ihren Patienten einzusetzen. Sie sitzt außerdem in einem Verhandlungsgremium der Gewerkschaft. In dieser Funktion trifft sie regelmäßig Vertreter der Krankenhausleitung, darunter den Direktor für psychische Gesundheit Nordkaliforniens.
In Sitzungen, so berichtet sie, haben sie und andere Mitglieder des Komitees Fragen gestellt. Zu Patientenschutz. Zur HIPAA-Konformität — jenem amerikanischen Datenschutzgesetz, das eigentlich den Schutz medizinischer Informationen garantieren soll. Zu den Sicherheitsvorkehrungen. Die Antwort, die sie erhielten, war von bemerkenswerter Klarheit: „Wir sind konform. Das ist alles, was Sie wissen müssen. Wir prüfen die Technologie. Machen Sie sich keine Sorgen. Das ist nicht Ihr Job. Wir haben Technikexperten. Das ist deren Job."
Wenn ein System sich weigert, seine Sicherheit zu zeigen, gibt es zwei Möglichkeiten. Entweder hat das System tatsächlich nichts zu verbergen — dann wäre das Zeigen trivial. Oder das System hat etwas zu verbergen. Die Logik ist so alt wie die Aufklärung. Kaiser hat, nach Aussage der Behandler, das Zeigen verweigert. Wiederholt. Auf Nachfrage. Sie können nicht zeigen. Sie wollen nicht zeigen. Sie haben abgelehnt, als man sie bat. Die Waage neigt sich.
Ligia Pacheco ist psychiatrische Sozialarbeiterin und behandelt Kaiser-Patienten in Südkalifornien per Videoschalte. Auch sie hat Antworten erbeten. Auch sie hat keine bekommen. Eine Kollegin von ihr habe Bedenken bei einem Vorgesetzten geäußert. Die Antwort des Vorgesetzten: Es sei „unprofessional", persönliche Überzeugungen zu KI am Arbeitsplatz zu äußern.
Unprofessional. Das Wort fällt auf. Es ist das Lieblingswort jener, die Kritik nicht widerlegen, sondern zum Schweigen bringen wollen. Es ist das Wort, mit dem man den Arzt zum Techniker macht, den Anwalt zum Sachbearbeiter, den Therapeuten zum Erfüllungsgehilfen einer Software. Wer nicht gehorcht, wird nicht korrigiert, sondern pathologisiert.
Ich denke an die ungeschriebenen Verträge der Wissenschaftsgeschichte. Ich denke an die vielen Versprechen, die mir in dreißig Jahren gegeben wurden. Ich denke an die Worte „vertrauen Sie uns", die so oft das Vorspiel waren zu Worten, die man besser nicht gehört hätte. Ich denke an jene Patienten, die sich jetzt in Therapie begeben — verletzlich, oft am Rand ihrer selbst — und nicht wissen, dass ihre intimsten Momente in Datenbanken wandern, deren Architektur ihnen verschwiegen wird.
Es gibt eine alte Regel: Wer misst, verändert. Wer aufzeichnet, besitzt. Wer besitzt, definiert. Wir haben in den Zwanzigern begonnen, die Seele zu digitalisieren. Nicht weil die Seele danach verlangte. Sondern weil die Maschinen es konnten.
Was geschieht mit einer Aufnahme, die niemand erklären kann? Wer hört sie in fünf Jahren? Wer in fünfzig? Und wer entscheidet, wann ein geflüstertes Wort über den Vater zu einem Risiko wird — für wen?