Ambient Listening - und die Aufklärung bleibt stumm

Kaiser Permanente, einer der größten Gesundheitskonzerne der Vereinigten Staaten, hat im Jahr 2024 ein Werkzeug namens Abridge ausgerollt. Auf der Pressemitteilung klingt es wie ein Geschenk an die Menschheit: "ambient listening technology", eine KI, die klinische Notizen erfasst, damit Ärzte und Therapeuten endlich wieder den Blick heben können, statt zu tippen. Man stelle sich das vor: Augenkontakt im Sprechzimmer, ungeteilte Aufmerksamkeit, die warme Hand des Heilberuflers. Eine schöne Geschichte.

Was die Pressemitteilung nicht verrät: das Werkzeug zeichnet die gesamte Sitzung auf. Auch die intime, oft zitternde Stunde, in der ein Mensch auf einer Couch sitzt und das erzählt, was er sonst niemandem erzählt.

Hier beginnt mein Misstrauen, und zwar das berufliche.

Denn die Vorschrift ist eindeutig: vor einer Aufnahme muss eine Einwilligung eingeholt werden. So weit, so korrekt. Aber nach den Schilderungen mehrerer Behandler, die in einer Veröffentlichung von The Markup zitiert werden, erklärt diese Einwilligung dem Patienten nicht, was mit den Daten geschieht. Nicht, wo sie gespeichert werden. Nicht, wie lange. Nicht, wer Zugang hat. Die Aufklärung, die das Recht verlangt, ist zur Hülse geschrumpft.

Und jetzt der entscheidende Schritt: die Behandler selbst wissen es auch nicht.

Ilana Marcucci-Morris, lizenzierte klinische Sozialarbeiterin in Kaisers Psychiatrie in Oakland und Mitglied eines Verhandlungskomitees, hat das Werkzeug bei ihren Patienten nicht eingesetzt. Sie hat, gemeinsam mit Kollegen, bei Kaisers Führungsebene nachgefragt: Datenschutz, HIPAA-Konformität, Sicherheitsvorkehrungen. Was sie bekam, nennt sie "leere Versicherungen". Sinngemäß die Antwort: "Wir sind konform. Das reicht. Wir prüfen die Technologie, Therapeut. Mach dir keine Sorgen. Das ist nicht dein Job."

Man kann diese Sätze lesen und an einen überlasteten IT-Verantwortlichen denken. Man kann sie auch anders lesen.

Ligia Pacheco, psychiatrische Sozialarbeiterin, die für Kaiser-Patienten in Südkalifornien Therapie per Video anbietet, hat Ähnliches erfahren. Kaisers Antwort auf ihre Bitten um Aufklärung: Schweigen. Einer Kollegin, die Bedenken äußerte, wurde gesagt, es sei "unprofessional", persönliche Meinungen zur KI am Arbeitsplatz kundzutun.

Ich notiere: Wer unbequeme Fragen stellt, wird nicht inhaltlich widerlegt, sondern disziplinarisch zurückgewiesen. Ein altes Muster. Sehr alt.

Dass hier über psychisch vulnerable Menschen gesprochen wird, ist nicht ein Detail am Rand. Es ist der Kern. Wer wegen einer posttraumatischen Belastung, einer Depression, einer Angststörung in Behandlung kommt, gibt Worte in einen Raum, der per Definition geschützt sein muss. Das Vertrauen zwischen Patient und Therapeut ist nicht bloße Berufsethik. Es ist die notwendige Bedingung dafür, dass Therapie überhaupt wirken kann. Wer dieses Vertrauen zur Verhandlungsware macht, untergräbt nicht die Privatsphäre einzelner Patienten. Er untergräbt das Verfahren selbst.

Doch ich bin Wissenschaftsreporter, kein Aktivist. Ich muss prüfen. Was ich vor mir habe, ist im Wesentlichen eine Quellenkette: ein Artikel von The Markup, der mit Marcucci-Morris und Pacheco sprach, beide sind namentlich genannte, in ihren Berufsverbünden verankerte Personen. American Community Media hat die Interviews ausgestrahlt. Die Aussagen sind konkret, datierbar und reproduzierbar. Sie sind kein Gerücht.

Was ich nicht habe, und das sage ich offen: keine unabhängige Bestätigung von Kaisers Seite. Keine veröffentlichte Datenschutzfolgenabschätzung. Keine Auskunft darüber, welche Subunternehmer in die Verarbeitungskette eingebunden sind, ob die Daten zum Training allgemeiner Modelle verwendet werden oder in welchem Rechtsraum die Speicherung erfolgt. Die übrige Berichterstattung, von KPBS bis zu Branchenaggregatoren, bestätigt den Vorgang als solchen, nicht jedoch seine technischen Innereien.

Das ist, freundlich ausgedrückt, ein Befund. Weniger freundlich: ein Vakuum, in dem eine Maschine sehr persönliche Worte speichert.

Und hier beginnt die Frage nach dem System. Ambient Listening wird als Effizienzgewinn verkauft. Abrechnung, Dokumentation, Entlastung der Behandler. Wer profitiert, wenn die KI mithört? Zunächst der Konzern, der seine Dokumentationskosten senkt. Dann, mit ein wenig Phantasie, der Datenmarkt. Mental-Health-Daten sind die wertvollste Sorte, die ein Mensch überhaupt hervorbringt: intim, prädiktiv, knapp. Wer ein solches Reservoir besitzt, besitzt nicht bloß Akten. Er besitzt einen Hebel.

Ob dieser Hebel bereits angesetzt wird, ist nicht belegt. Aber das Schweigen, mit dem die Verantwortlichen den einfachsten Fragen begegnen, hat eine bestimmte Form. Es ist nicht das Schweigen eines Unternehmens, das alles richtig gemacht hat und stolz darauf ist. Es ist das Schweigen eines Unternehmens, das diese Frage nicht beantworten will.

Ich sage nicht, dass Kaiser Permanente bösartig handelt. Ich sage, dass die Struktur, die hier sichtbar wird, ein bekanntes Muster ist. Eine neue Technologie wird eingeführt. Die Aufklärung ist unvollständig. Die internen Wächter, hier die Behandler, werden mit Verweis auf Expertenzuständigkeit ausgehebelt. Wer nachbohrt, wird zum Störfaktor erklärt. Am Ende steht eine Akte, deren Inhalt niemand mehr vollständig überblickt.

Es gab eine Zeit, da nannten wir das Kontrollverlust. Heute nennen wir es Innovation.

Therapeuten sollen die Stimme der Patienten sein, die in ihrem verletzlichsten Zustand zu ihnen kommen, sagt Pacheco. Sie kann es nicht mehr sein. Ob das an mangelndem Mut der Behandler liegt oder an einer Organisation, die diese Stimme systematisch zum Verstummen bringt, das wird uns die Antwort zeigen, die Kaiser uns bisher schuldig bleibt.

Was geschieht mit den intimsten Worten, die ein Mensch von sich gibt, und wer entscheidet, wann sie zu etwas ganz anderem werden?