Hilfsbereit und ahnungslos: Chatbots im medizinischen Beratungsversagen
Mein Büro riecht nach Lötzinn. Auf dem Tisch: ein Stapel Papier, der mir zeigt, dass die neue Maschine, die uns das Denken abnehmen soll, ausgerechnet dort versagt, wo es am meisten wiegt — beim Schutz von Leben und körperlicher Unversehrtheit.
Chatbots, die über Schwangerschaftsabbrüche informieren, sind trotz guter Absichten schlecht informiert. Das ist keine Schlagzeile aus der Boulevardfabrik. Das ist die Zwischenbilanz einer Technologie, die sich anschickt, die intimste Entscheidung eines Menschen mit Halbwissen zu begleiten.
Wer eine solche Maschine fragt, bekommt Sätze. Glatt formulierte, freundlich klingende Sätze. Was fehlt, ist die Verantwortung. Wer trägt sie, wenn ein Chatbot einer Frau in Not eine medizinisch falsche Auskunft gibt? Der Hersteller? Der Programmierer? Der Betreiber der Plattform? Oder jene, die glaubten, eine Maschine könne ersetzen, was nur ein Mensch leisten darf — nämlich in einer Krise hinzusehen.
Eine Übersichtsarbeit im e-beratungsjournal.net zeigt: Zu ChatGPT und Schwangerschaftsabbrüchen liegen bisher keine belastbaren Studien aus dem medizinischen Kontext vor. Was existiert, ist eine Arbeit zur Nutzung von ChatGPT für Pränataldiagnostik durch medizinisches Personal. Die Ergebnisse weisen den Chatbot als Werkzeug mit Potenzial — und mit gefährlichen Lücken. Eine Leerstelle, die in einer Zeit, in der Informationsbedarf und ärztliche Versorgung nicht immer zusammenfallen, zur Falle wird.
Dass die Maschine nicht zur moralischen Instanz taugt, verneint eine Studie, über die die Süddeutsche Zeitung im Oktober 2025 berichtete. Forscher warnen demnach ausdrücklich davor, Chatbots bei Gewissensfragen als Ratgeber einzusetzen. Die Empfehlung ist eindeutig: Bei Entscheidungen, die ins Innerste reichen, sollen Menschen befragt werden — keine Spracheinheiten aus einem neuronalen Netz.
Und hier wird es technisch interessant. Das Deutsche Ärzteblatt referierte im Februar 2026 eine Untersuchung, die den wunden Punkt benennt: Die Interaktion von Patientinnen und Patienten mit großen Sprachmodellen ist der zentrale Schwachpunkt bei der Zuverlässigkeit. Je menschlicher die Nachfrage, desto unsicherer die Antwort. Die Maschine halluziniert nicht nur Fakten, sie halluziniert Empathie — und bemerkt es nicht.
Das ist das Systemversagen. Nicht ein einzelner Fehler, nicht ein Bug, der mit dem nächsten Update verschwindet. Es ist die Architektur. Ein Sprachmodell erzeugt Wahrscheinlichkeiten. Es urteilt nicht, es gewichtet nicht, es wägt nicht ab. Es spricht — und genau deshalb klingt es überzeugend, wo es schweigen sollte.
Wir reden hier nicht über eine falsche Auskunft beim Kinotipp. Wir reden über körperliche Unversehrtheit, über eine Entscheidung, die kein Algorithmus der Welt überschauen kann. Wer das einsetzt, trägt Verantwortung. Wer es zulässt, dass Frauen in einer der schwierigsten Lagen ihres Lebens auf einen Chatbot verwiesen werden — ob aus Bequemlichkeit, aus Kostengründen oder aus politischem Druck —, der macht die Maschine zum Türsteher einer Klinik, die sie nicht betreten darf.
Mir sagt mein telegraphistisches Gefühl: Solche Werkzeuge gehören in fachkundige Hände. In Hände, die wissen, wann sie schweigen müssen. Solange das nicht garantiert ist, ist jede Empfehlung, einen Chatbot zu medizinischen Fragen dieser Tragweite zu konsultieren, ein Spiel mit dem Feuer — und mit dem Leben anderer.
Die Drähte summen weiter. Ich höre zu.