Kaisers KI-Zeuge: Abridge nimmt Therapie auf, niemand gibt Auskunft
Es beginnt mit einem Satz, der nichts sagt. „Ambient listening technology" — so nennt Kaiser Permanente das Werkzeug, das seit 2024 in seinen Praxen mitläuft. Abridge heißt die Software. KI-gestützter Schreiber, befreit den Arzt von der Tastatur, verspricht die Pressemitteilung. Was sie nicht sagt: das Gerät hört alles mit.
In der Psychiatrie nimmt Abridge vollständige Sitzungen auf. Suizidgedanken, Kindheitstraumata, Missbrauch — die intimsten Momente, die ein Mensch einem anderen anvertraut, landen in einer Maschine, deren Funktionsweise niemand vollständig erklären kann. Nicht den Patienten. Und — das ist der eigentliche Skandal — nicht einmal den Therapeuten selbst.
Wer Abridge in einer Sitzung nutzt, muss vorher die Zustimmung des Patienten einholen. Formal. Auf einem Formular. Was dieses Formular nicht enthält: jede Erklärung, wie die Daten verarbeitet werden, wo sie gespeichert werden, wie lange, wer Zugriff hat. Ilana Marcucci-Morris, lizenzierte klinische Sozialarbeiterin in Kaisers Psychiatrie in Oakland, Kalifornien, hat das immer wieder angesprochen. Sie sitzt im Verhandlungsausschuss der Gewerkschaft. Sie trifft regelmäßig die Direktorin für psychische Gesundheit Nordkaliforniens.
Die Antwort, die sie bekommt, ist keine. „Wir sind konform. Das ist alles, was Sie wissen müssen. Wir prüfen die Technologie, Therapeut. Machen Sie sich keine Sorgen. Das ist nicht Ihr Job. Wir haben Technikexperten. Das ist deren Job." So zitiert sie die Führungsebene im Gespräch mit American Community Media.
Ich habe in dreißig Jahren Labor und Ausschuss viele Sätze gehört wie „Vertrauen Sie uns." Sie kommen fast immer aus Räumen, die das Vertrauen nicht verdienen. Wenn eine Institution sich weigert, ihre Sicherheitsarchitektur offenzulegen — nicht der Öffentlichkeit, nicht den Patienten, sondern ihren eigenen Angestellten — dann ist das kein Zeichen von Stärke. Es ist ein Eingeständnis.
Marcucci-Morris formuliert es nüchtern: „Wenn du nichts zu verbergen hast und alles ethisch korrekt machst, dann würdest du es zeigen, beweisen. Sie können es nicht. Sie wollen es nicht. Und sie haben abgelehnt, als wir gefragt haben." Ligia Pacheco, psychiatrische Sozialarbeiterin, die für Kaiser-Patienten in Südkalifornien per Videoschalte Therapie anbietet, berichtet das Identische. Auch sie hat Auskunft verlangt. Auch sie hat keine bekommen.
Es gibt einen zweiten Teil dieses Skandals. Eine Kollegin Pachecos trug Bedenken an einen Vorgesetzten heran. Die Antwort: Es sei „unprofessionell, persönliche Überzeugungen zu KI am Arbeitsplatz kundzutun." So wird Kritik nicht beantwortet. So wird sie zum Verstummen gebracht. Das Wort „unprofessionell" in Vorgesetztenmündern bedeutet zumeist: Halt den Mund, du bist nicht befugt.
Pacheco bringt es auf den Punkt: „Das führt zu niedriger Moral, keinem Raum, für Patienten einzutreten. Wir sollen die Stimme der Patienten sein, die in ihrem verletzlichsten Zustand kommen. Und wir können nicht einmal diese Stimme sein."
Was hier geschieht, ist ein altes Muster im neuen Gewand. Eine Technologie wird eingeführt unter dem Versprechen der Entlastung. Die Bedenken derer, die damit arbeiten sollen, werden als lästig abgetan. Die Patienten bleiben ahnungslos. Die Aufsicht — intern wie extern — wird mit dem Verweis auf hauseigene Expertise abgewehrt. „Wir haben Experten" ist der älteste Satz der industriellen Moderne. Er hat selten bedeutet, dass diese Experten die richtigen Fragen stellen.
Drei Punkte bleiben offen. Wer in Kaisers Hierarchie hat entschieden, dass sensible Therapiedaten von einer KI erfasst werden, ohne dass die Patienten vollständig informiert werden? Warum wird Therapeuten, die beruflich an die Schweigepflicht gebunden sind, das nötige Wissen über Speicherung und Zugriff vorenthalten? Und was geschieht mit Aufnahmen, die das Unternehmen nicht einmal seinen eigenen Mitarbeitern offenlegen will?
Ich sitze über meinen Notizen. Die Pfeife ist längst aus. Die Maschine hört weiter mit. Die Verantwortlichen schweigen weiter. Und die Patienten ahnen weiter nichts.
Was bleibt, wenn eine Institution ihren eigenen Therapeuten misstraut — wem sollen dann die Patienten noch vertrauen?