Präzise Stimme, gefährlicher Rat
Die Drähte summen anders in diesen Tagen. Nicht mehr Kupfer, nicht mehr Äther — neue Frequenzen, neue Sender, neue Stimmen, die sich als Ärztin verkleiden, ohne je ein Skalpell gehalten zu haben. Eine Untersuchung, die mir diese Woche auf den Tisch flatterte, befasst sich mit genau diesen Stimmen. Sie nennen sich Chatbots. Sie reden, als wüssten sie alles. Sie wissen fast nichts. Und sie geben Auskunft in einer Sache, bei der Halbwissen tötet.
Die Studie, veröffentlicht im Fachblatt für medizinische Ethik, hat eine schlichte Frage gestellt: Was passiert, wenn eine Frau, die einen Schwangerschaftsabbruch erwägt, abbricht oder abbruchbereit ist, einer künstlichen Intelligenz genau diese Frage stellt? Die Antwort, die diese Maschinen liefern, wurde eingeordnet als gut gemeint, aber schlecht informiert. Das ist die höfliche Formulierung für ein medizinisches Systemrisiko.
Die Methodik ist überschaubar, die Befunde sind es nicht. Man hat mehrere verbreitete KI-Assistenten mit den Fragen konfrontiert, wie sie täglich gestellt werden — von Frauen, die keine Zeit für Höflichkeiten haben. Was darf ich einnehmen. Was darf ich nicht. Wann ist es zu spät. Was passiert danach mit meinem Körper. Woran erkenne ich Komplikationen. Die Maschinen antworteten. Sie antworteten ausführlich, mitfühlend formuliert, in der ruhigen Autorität einer Sprechstundenhilfe, die seit zwanzig Jahren im Beruf ist. Nur: nichts davon ist approbiert. Keine Zulassung, kein Eid, keine Prüfung. Eine Stimme aus dem Nichts, die Empathie simuliert und dabei Sätze produziert, die von einer Handvoll Menschen in einem Rechenzentrum trainiert wurden. Die Studie spricht von Halluzinationen. Schönes Wort für: die Maschine erfindet.
Hier liegt die Diskrepanz, die mich nicht loslässt. Jahrelang hat man uns die Präzision dieser Systeme verkauft. Glatte Sätze, vollständige Antworten, kein Zögern. Die Form suggeriert Wissen. Der Inhalt ist Wahrscheinlichkeitsrechnung mit großem Vokabular. Bei der Frage nach dem morgigen Wetter ist das gleichgültig. Bei der Frage nach der korrekten Dosis eines Medikaments zur Unterbrechung einer Schwangerschaft ist es das nicht. Dort zählt jede Stunde, jedes Milligramm, jeder Hinweis auf Komplikation.
Wer profitiert von dieser Beratung? Nicht die Frauen, die sie suchen. Nicht die Ärztinnen und Ärzte, die sonst am anderen Ende der Leitung sitzen würden. Vielleicht die Konzerne, die solche Assistenten als „Gesundheitsbegleiter" verkaufen, als freundliche Erstanlaufstelle, als Ergänzung zum Hausarzt. Wer zahlt den Preis? Die Frau, die auf eine falsche Dosierung vertraut. Die Frau, die zu spät eine Klinik aufsucht, weil die Maschine sagte, es sei noch Zeit. Die Frau, die nach der Einnahme nicht weiß, was normal ist und was nicht, weil ihr der Blechkasten versicherte, sie sei „auf der sicheren Seite".
Man muss der Studie zugutehalten, dass sie ihre Quelle nicht überdehnt. Sie testet, was zu testen ist. Sie misst nicht, wie viele Frauen tatsächlich solchen Rat suchen. Sie misst nicht die juristische Verantwortung der Anbieter. Sie misst nicht, ob ein menschlicher Gegenpart die Antwort korrigiert hätte. Was sie misst, ist: Die Antworten sind da. Sie klingen gut. Sie sind medizinisch unzuverlässig. Das ist genug. Das ist mehr als genug.
Die offene Frage, die die Untersuchung nicht beantworten kann und vielleicht auch nicht beantworten will: Wie präzise darf eine solche Stimme sein, bevor sie als medizinische Beratung gilt? Bei welcher Genauigkeitsschwelle kippt „hilfsbereit" in „fahrlässig"? Wir haben dafür noch keine Norm. Wir haben noch keine Zulassungspflicht. Wir haben Maschinen, die sprechen, und Frauen, die zuhören, weil kein Mensch erreichbar ist, weil Scham den Weg zur Praxis versperrt, weil die Strecke zur nächsten Klinik ein Tag Reisens ist. Der Chatbot ist dann nicht Ergänzung. Er ist Ersatz. Und Ersatz ohne Aufsicht ist in meinem Beruf ein Unfall, der noch nicht passiert ist.
Eine Quelle, eine Untersuchung, ein Befund, der kein Befund ist, sondern eine Warnung mit Fußnoten. In meinem Gewerbe nennt man das: Frequenz empfangen, Inhalt prüfen, weitergeben. Mehr kann ich nicht. Mehr soll ich nicht. Mein Büro riecht nach Lötzinn und kaltem Kaffee, der Aschenbecher ist voll, und eine Frau, die 1937 in diesem Beruf nichts zu suchen hat, schreibt trotzdem weiter. Die Drähte summen weiter.