Aufgezeichnet, ausgewertet, ausgeliefert

Es beginnt leise. Eine Praxis, ein freundlicher Therapeut, ein Patient, der seine Sorgen ausspricht. Das Gespräch ist intimer als die meisten intimen Gespräche im Leben eines Menschen. Es geht um Ängste, um Schatten, um das, was nachts wachhält. Vertraulich, sagt der Behandler. Geschützt, sagt das Gesetz.

Nun soll eine Maschine mithören.

Mental Health Professionals, so berichten amerikanische Fachmedien, setzen zunehmend KI-Werkzeuge ein, um Therapiegespräche aufzuzeichnen. Die American Community Media dokumentiert den Trend. Die Plattform Piedmont Exedra zitiert Stimmen aus dem Kaiser-Verbund: ein KI-Tool, das Sprechstunden protokolliert, brauche mehr Schutzvorkehrungen. Eine Einwilligung des Patienten ist erforderlich. Vor dem Gespräch.

So weit die offizielle Lesart. Wer bezahlt diese Werkzeuge? Wer hat sie entwickelt? Was geschieht mit den Aufzeichnungen, wenn das Gespräch vorbei ist? Die Quellen schweigen sich aus. Sie berichten über das WAS. Nicht über das WOHIN.

Ich bin dreißig Jahre lang Forscher gewesen. Ich habe gesehen, wie Entdeckungen als Waffen endeten. Ich habe gesehen, wie saubere Daten in schmutzige Hände wanderten. Wenn ein Anbieter versichert, die Daten seien sicher, frage ich: sicher vor wem? Sicher für wie lange? Sicher gegen welche Neugier?

DR KAYE, ein Mediziner, der namentlich mit dem Fall verbunden ist, berichtet von zwei Patienten, denen ein KI-System gefährliche medizinische Ratschläge erteilt habe. Die Geschichte steht in einer einzigen Quelle. Ich zitiere sie, weil sie genannt wird. Ich vertraue ihr nicht, weil sie allein steht. Genau diese Einzigkeit ist das Problem: Wo ein Fall öffentlich wird, liegen zehn im Verborgenen. Wo eine Quelle redet, schweigen neun andere aus Angst, aus Loyalität, aus Vertrag.

Die Maschine halluziniert. Das wissen wir. Chatbots sind unzuverlässige Quellen für korrekte Gesundheitsinformation. Das schreibt Mental Health America in seinen Haftungsausschluss — klein gedruckt am Rand eines Online-Tests zur Depression. Ein Eingeständnis, das wie ein Feigenblatt wirkt: Hier ist unser Werkzeug. Hier ist unser Disclaimer. Was dazwischen liegt, ist Ihre Sorge.

Mental Health America ist eine gemeinnützige Organisation. Sie bietet Tests an. Sie finanziert sich über Sponsoren, Partner, Werbung. Avenly, ein professionelles Netzwerk für Verhaltensmediziner — Therapeuten, Psychiater, Psychologen, Pflegekräfte — bewirbt ebendiese Debatte um KI-Aufzeichnung. Ein Geschäft entsteht. Mehrere tauchen darin auf. Die Kette ist kurz, der Profit lang.

Die Struktur ist alt. Sie trägt nur einen neuen Anzug.

Was fehlt, ist ein Patientenschutzrecht, das den Namen verdient. Kein Disclaimer am Rand. Kein Einwilligungsbogen im Vorbeigehen. Eine Regulierung, die sagt: Diese intime Stimme, diese Verzweiflung, diese zwölf Minuten, in denen ein Mensch einem anderen sein Innerstes öffnet — sie gehören nicht in einen Speicher. Sie gehören nicht in ein Trainingsdatenset. Sie gehören nicht in eine Bilanz.

Wer garantiert das heute? Niemand. Das ist die Antwort, die ich nach dreißig Jahren Forschung am meisten fürchte: nicht die Lüge, sondern die Lücke. Die Lücke zwischen dem, was versprochen wird, und dem, was nicht gemessen wird.

Wenn ein Chatbot einem Patienten rät, ein Medikament abzusetzen, eine Dosis zu erhöhen, einen Notruf zu unterlassen — wer haftet? Der Algorithmus hat keinen Namen. Der Anbieter hat einen Disclaimer. Der Arzt hat unterschrieben, dass die Maschine mithört. Der Patient hat unterschrieben, weil er keine Wahl hatte.

DR KAYEs zwei Fälle sind nur die Spitze. Was darunter liegt, ist das, was wir nicht sehen. Was nicht berichtet wird. Was nicht gemessen wird, weil das Messen selbst ein Geschäft ist.

Ich notiere weiter.

Die zentrale Frage bleibt offen: Welches Patientenschutzrecht garantiert dem Menschen, dessen intimste Gesundheitsinformationen aufgezeichnet werden, dass diese Aufzeichnung nicht gegen ihn verwendet wird — heute, morgen, vor einem anderen Richter, in einem anderen Verfahren?