DER KITTEL HÖRT MIT
Im Jahre 2024 rollte Kaiser Permanente etwas aus, das in der Pressemitteilung klang wie ein Geschenk an die Menschheit. „Ambient listening technology" nannten sie es. Ein KI-gestützter Schreiber, der Ärzten das Tippen abnehmen sollte. Abridge heißt das Werkzeug. Schön. Praktisch. Fortschritt.
Was die Pressemitteilung nicht sagte: Das Ding nimmt alles auf. Nicht die Diagnose. Nicht die Zusammenfassung. Alles. Jedes Wort einer Therapiesitzung, in der Menschen über ihre Ängste sprechen, über ihre zerbrochenen Ehen, über die dunklen Stunden um drei Uhr morgens.
Nun muss man den Klinikern zugute halten, dass sie vor der Sitzung eine Einwilligung einholen müssen. Das klingt demokratisch. Das klingt nach Schutz. Das klingt nach jenem Informed Consent, den wir seit dem Nürnberger Kodex als heilig betrachten. Aber diese Einwilligung erklärt nicht, wo die Aufnahmen gespeichert werden. Nicht, wie lange. Nicht, wer Zugang hat. Und zwar nicht, weil man es vergessen hätte. Sondern weil man es den eigenen Therapeuten nicht sagt, obwohl sie danach fragen.
Ilana Marcucci-Morris arbeitet als klinische Sozialarbeiterin in Kaisers Psychiatrie in Oakland. Sie sitzt auch in der Tarifkommission, und in dieser Funktion trifft sie regelmäßig die Direktorin der psychiatrischen Versorgung Nordkaliforniens. Eine vernünftige Person, würde man denken. Jemand, der Antworten gibt, wenn das eigene Personal fragt, wie es um die Privatsphäre der Patienten bestellt ist. Wie es um HIPAA-Konformität steht. Welche Schutzmaßnahmen greifen.
Die Antwort, die sie erhielt: „Wir sind konform. Das ist alles, was Sie wissen müssen. Wir prüfen die Technologie. Machen Sie sich keine Sorgen. Das ist nicht Ihr Job. Wir haben Technikexperten. Das ist deren Job."
Meine Damen und Herren, ich habe dreißig Jahre lang Pipetten gehalten und Daten ausgewertet. Ich habe gelernt, dass Sätze wie „das ist nicht Ihr Job" meist dann fallen, wenn es der eigene Job ist, den man nicht erklären möchte. „Wir sind konform" ist kein Beleg. Es ist ein Vorhang.
Marcucci-Morris sagt es selbst, und sie hat recht: Wer nichts zu verbergen hat und ethisch einwandfrei arbeitet, der zeigt es. Der beweist es. Der legt die Dokumentation auf den Tisch. Kaisers Führung kann es nicht. Sie will es nicht. Sie hat abgelehnt, als man sie darum bat.
Ligia Pacheco, psychiatrische Sozialarbeiterin in Südkalifornien, hat dieselbe Mauer erlebt. Auch ihr wurden Erklärungen verweigert. Eine Kollegin wagte es, Bedenken bei einem Vorgesetzten zu äußern. Die Antwort kam prompt: Es sei unprofessionell, persönliche Überzeugungen zu KI am Arbeitsplatz kundzutun.
Ich bin Wissenschaftler. Ich habe Hunderte solcher Sätze gehört. „Das ist unprofessionell" ist die diplomatische Variante von „Halt den Mund". Es ist das Argument derer, die keine Argumente haben, aber die institutionelle Macht, das Gespräch zu beenden.
Was hier geschieht, ist kein technisches Versagen. Es ist ein kulturelles. Eine Klinik, die ihren eigenen Therapeuten nicht sagen kann oder will, wohin die intimsten Daten ihrer Patienten fließen, hat ein Vertrauensproblem, das kein Algorithmus der Welt lösen kann. Und ein Patient, der in seiner verletzlichsten Stunde in einen Raum tritt, in dem eine Maschine lauscht, verdient mehr als ein Häkchen in einer Einwilligungserklärung.
Die wahre Frage ist nicht, ob Abridge funktioniert. Die Frage ist, warum eine Institution, die das Wort „Therapie" im Namen trägt, sich weigert, ihren eigenen Mitarbeitern zu sagen, was sie da eigentlich installiert haben. Was bleibt, wenn das Vertrauen zwischen Therapeut und Patient zur verhandelbaren Variable wird — optimiert für Effizienz, gespeichert auf Servern, deren Standorte niemand kennt?
Wessen Schweigen schützt hier wen?