Kaisers KI-Schreiber hört mit – und schweigt über den Datenschutz

Kaiser Permanente, einer der größten Krankenversicherer der Vereinigten Staaten, hat im Jahr 2024 ein System namens Abridge eingeführt. In der Pressemitteilung klingt das harmlos: "ambient listening technology", eine KI-gestützte Schreibkraft, die Ärztinnen und Ärzten helfen soll, klinische Notizen während der Sprechstunde anzufertigen. Was die Beschreibung verschweigt: Das Tool zeichnet die gesamte Sitzung auf. Auch die psychotherapeutische.

Die Technik funktioniert so. Ein Mikrofon, im Raum oder auf dem Gerät des Behandlers, erfasst kontinuierlich alles Gesprochene. Eine Spracherkennung wandelt die Audiodatei in Text um. Dieser Text landet in der Patientenakte. Das geschieht nicht nebenbei – es geschieht vollständig. Jedes Zögern, jeder Seitenweg, jedes Wort, das ein Patient vielleicht bereut, sobald es ausgesprochen ist. Die KI ist nicht wählerisch. Sie hört alles, sie schreibt alles, sie vergisst nichts.

In der Theorie soll dieses Verfahren Ärzte entlasten, die statt auf den Bildschirm auf ihre Patienten schauen können. In der Praxis bedeutet es: Die intimsten Gespräche, die ein Mensch führen kann – über Traumata, Suizidgedanken, Missbrauch, Scham – werden zu Datensätzen. Zu Dateien auf Servern, deren Standorte und Zugriffsregeln niemand kennt. Auch nicht die Therapeuten selbst.

Ilana Marcucci-Morris ist klinische Sozialarbeiterin in der Psychiatrie von Kaiser in Oakland, Kalifornien. Sie hat sich geweigert, das System bei ihren Patienten einzusetzen. Als Mitglied eines Verhandlungskomitees hat sie wiederholt bei der Krankenhausleitung nachgefragt: Wie ist der Datenschutz geregelt? Wo liegen die Aufnahmen? Wer hat Zugriff? Wie ist die HIPAA-Konformität gewährleistet? Die Antwort, sagt sie, sei stets dieselbe gewesen: "Wir sind konform. Das ist alles, was Sie wissen müssen. Wir prüfen die Technologie. Machen Sie sich keine Sorgen. Das ist nicht Ihr Job."

Es ist das alte Lied. Vertrauen wird eingefordert, Aufklärung verweigert. Marcucci-Morris formuliert es so: "Wenn Sie nichts zu verbergen haben und alles ethisch korrekt machen, würden Sie es uns zeigen. Sie können nicht. Sie wollen nicht. Und sie haben abgelehnt, als wir gefragt haben."

Ligia Pacheco, psychiatrische Sozialarbeiterin in Südkalifornien, berichtet Ähnliches. Auch sie erhielt auf Nachfrage keine Erklärungen. Eine Kollegin, die Bedenken äußerte, bekam von einem Vorgesetzten zu hören, es sei "unprofessionell, persönliche Überzeugungen zu KI am Arbeitsplatz kundzutun". Für Pacheco bedeutet das: "niedrige Moral, kein Raum, um für Patienten einzutreten. Wir sollen die Stimme der Patienten sein, die in ihrem verletzlichsten Zustand zu uns kommen. Und wir können nicht einmal diese Stimme sein."

Die Patientinnen und Patienten müssen dem Einsatz zwar zustimmen. Doch die Aufklärung beschränkt sich auf ein Häkchen im Formular. Was mit den Aufnahmen geschieht, wie lange sie gespeichert werden, wer Einsicht nimmt – darüber schweigt das Dokument. Und die Behandler, die es erklären könnten, wissen es selbst nicht.

Die Quellenlage ist dünn. Eine gemeinsame Recherche von The Markup und American Community Media, zwei namentlich genannte Therapeutinnen, keine Stellungnahme von Kaiser in dem vorliegenden Material. Das macht den Befund nicht ungültig – es macht ihn vorläufig. Vorläufig heißt hier: dokumentiert, aber nicht abgeschlossen. Eine einzelne Quelle, zwei Stimmen, ein System. Das reicht für einen ersten Blick. Es reicht nicht für ein Urteil.

Was bleibt, ist ein ungutes Gefühl – und das ist in der Psychiatrie das Letzte, was man gebrauchen kann. Eine Therapie lebt von dem Raum zwischen zwei Menschen, der nicht dokumentiert wird. Wenn dieser Raum zur Akte wird, wandert das Vertrauen in einen Server.

Werden wir noch fragen dürfen, wohin?