Mitschnitt auf Rezept: Wem gehört das Geständnis?
Die Pfeife glüht. Draußen regnet es. Drinnen liest ein Patient, was er soeben unterschrieben hat.
Kaiser Permanente hat im Jahr 2024 ein System namens Abridge ausgerollt. In der offiziellen Sprache der Pressemitteilung heißt es „ambient listening technology". Klingt nach freundlichem Hintergrundrauschen, nach einem Assistenten, der nur das Nötigste notiert. Tatsächlich ist Abridge ein KI-gestützter Schreiber, der das vollständige ärztliche Gespräch mitschneidet. Auch die psychiatrische Sitzung. Auch die psychotherapeutische Stunde, in der ein Mensch Dinge ausspricht, die er sonst niemandem erzählt.
Hier beginnt das Problem. Nicht das technische. Das menschliche.
Bevor das System eingesetzt wird, sollen Therapeuten die Einwilligung ihrer Patienten einholen. So die Vorgabe. Was in dieser Einwilligung steht, ist weniger besorgniserregend als das, was nicht darin steht. Keine Erklärung, wie die Aufnahmen verarbeitet werden. Keine Angabe, wo sie gespeichert werden. Keine Auskunft darüber, wie lange. Keine Mitteilung darüber, wer Zugang erhält. Die Patienten unterschreiben ein Formular, das seine wesentlichen Fragen nicht stellt.
Man darf das für einen Zufall halten. Man darf auch fragen, warum.
Ilana Marcucci-Morris ist approbierte klinische Sozialarbeiterin in der Psychiatrie von Kaiser in Oakland, Kalifornien. Sie sitzt zugleich in einer Tarifkommission. In dieser Funktion hat sie — gemeinsam mit anderen — bei verschiedenen Vertretern Kaisers nachgehakt. Patientendatenschutz. HIPAA-Konformität. Schutzvorrichtungen für den Einsatz solcher Technologien. Die Antwort, sagt sie, seien „leere Zusicherungen" gewesen: „Wir sind konform. Das ist alles, was Sie wissen müssen. Wir prüfen die Technologie. Therapeut, machen Sie sich keine Sorgen. Das ist nicht Ihr Job. Wir haben Technikexperten. Das ist deren Job."
„Das ist nicht Ihr Job." Ein Satz, der einem in jedem Forschungslabor begegnet, das seine eigenen Skandale verwaltet. Man solle sich auf sein Fachgebiet beschränken. Man solle nicht in die Sphäre der Eingeweihten greifen. Die Sphäre der Eingeweihten. Wir kennen sie.
Ligia Pacheco, psychiatrische Sozialarbeiterin, versorgt Patienten in Südkalifornien per Videoschalte. Auch sie habe keine Erklärungen erhalten. Eine Kollegin habe Bedenken gegenüber einem Vorgesetzten geäußert. Die Reaktion: Es sei „unprofessionell, persönliche Überzeugungen zu KI am Arbeitsplatz kundzutun".
Unprofessionell. So nennt man es, wenn Mitarbeiter das Patientenwohl über die Bequemlichkeit der Organisation stellen.
Dass Therapeuten sich überhaupt sorgen, ist bemerkenswert. Sie sitzen am nächsten am Patienten, wenn dieser in seinem verletzlichsten Zustand spricht. Gerade sie sollten die ersten sein, die Auskunft erhalten. Das Argument der Organisation lautet: Man vertraue auf die geprüfte Technologie. Das Argument der Therapeuten lautet: Wer nichts zu verbergen hat, kann es zeigen. Kaiser, so Marcucci-Morris, habe „nicht gezeigt, und werde es auch nicht tun, wenn wir darum bitten". Man habe „keine Möglichkeit, sich für Patienten einzusetzen". Man sei angehalten, „die Stimme der Patienten in deren verletzlichstem Zustand" zu sein, und werde genau daran gehindert.
Das Muster ist älter als die künstliche Intelligenz. In drei Jahrzehnten Labor und Recherche habe ich es in der Pharma gesehen, in der Humangenetik, in den Datensammlungen für Sicherheitsbehörden. Der Mechanismus ist stets derselbe. Eine neue Technologie wird eingeführt. Sie wird als Fortschritt verkauft. Wer Fragen stellt, wird als rückständig abgetan oder als unkollegial. Antworten auf konkrete Fragen werden in Vageheit aufgelöst. Irgendwann ist nicht mehr die Kritik das Problem, sondern die Tatsache, dass Kritik unterdrückt wird.
Was hier auf dem Spiel steht, ist nicht die Effizienz einer Arztpraxis. Was hier auf dem Spiel steht, ist die letzte verbliebene geschützte Sphäre der Medizin: das Gespräch. Nicht das Laborergebnis. Nicht die Verordnung. Das Gespräch selbst. Worte, die ein Mensch in einem Raum äußert, im Vertrauen darauf, dass dieser Raum ein Vertrauensraum sei. Wer dieses Gespräch aufzeichnet, übernimmt die Verfügungsgewalt über etwas, das ihm nicht gehört.
Die Maschine nimmt es auf. Die Maschine schweigt. Wir wissen nicht, wohin die Worte gehen, wenn der Raum verlassen wurde.
Vierzig Jahre Wissenschaft haben mich eines gelehrt: Die wichtigste Frage ist nie, was eine Technologie kann. Die wichtigste Frage ist, wem es nützt, dass sie kann. Und wer entscheidet, dass man diese Frage nicht zu stellen braucht.
Die Pfeife ist aus. Die Sitzung war gestern. Wer sitzt beim nächsten Gespräch mit im Raum?