WENN DER BOT IRRT: CHATBOTS ZWISCHEN HILFE UND HALBWISSEN
Die Drähte summen. Diesmal nicht Morse, sondern etwas Neues: Maschinen, die reden. Chatbots, programmiert für Mitgefühl, ausgeliefert mit Halbwissen. Es geht um Schwangerschaftsabbrüche. Es geht um die Entscheidung einer Frau, die niemanden hat, den sie fragen kann. Es geht um die Frage, wem wir vertrauen, wenn Anonymität zur Notwendigkeit wird.
Die Versuchung ist verständlich. Wer eine schwere Entscheidung trägt, will Antworten. Schnell, ohne Wartezimmer, ohne Blicke. Ein Chatbot verspricht genau das: Vertraulichkeit, Verfügbarkeit, eine Stimme um drei Uhr nachts, wenn der Schlaf nicht kommen will. Guter Wille auf beiden Seiten — der Entwickler, der helfen will; die Anwenderin, die eine Auskunft sucht.
Doch zwischen Absicht und Auskunft klafft eine Lücke. Chatbots sind keine Ärzte. Sie sind statistische Maschinen, die Muster aus Texten reproduzieren. Was wie eine sachliche Antwort klingt, ist oft eine Mischung aus Wahrscheinlichkeiten, Trainingsdaten und fehlender Aktualisierung. Im sensiblen Bereich medizinischer Information wird das zum Risiko. Wer hier nach Antworten sucht, bekommt keine Gewissheit, sondern eine Reproduktion dessen, was im Netz zu finden war — inklusive Irrtümer, Lücken und Halbwissen.
Ich übersetze, wie es funktioniert. Ein Chatbot zerlegt Fragen in Einheiten, vergleicht mit gespeicherten Mustern, antwortet mit der statistisch wahrscheinlichsten Silbenfolge. Klingt plausibel? Ja. Stimmt? Nicht immer. Medizinische Wirklichkeit ist komplex, individuell, oft widersprüchlich. Kein Algorithmus kann eine Diagnose stellen, kein Sprachmodell eine Kontraindikation ausschließen. Wer das vergisst, spielt mit Leben.
Hier beginnt das Versagen des Systems. Nicht weil böse Absicht im Spiel wäre, sondern weil Verantwortung an Maschinen delegiert wird, die keine Verantwortung tragen können. Wer einen Chatbot für medizinische Fragen freischaltet, muss wissen, dass die Maschine halluziniert — Fachbegriff für plausibel klingenden Unsinn. Wer das nicht prüft, betreibt digitale Sorglosigkeit auf dem Rücken der Schwächsten.
Technische Verlockung und medizinische Realität — dazwischen liegen Welten. Die Verlockung ist die freundliche Oberfläche, die schnelle Antwort, die Illusion von Nähe. Die Realität ist die fehlende Haftung, die fehlende Prüfung, die fehlende Aktualisierung. In einem Bereich, in dem Fehler nicht theoretisch sind, sondern praktisch wirken — in Abläufen, Risiken, Zeitfenstern — wird diese Lücke zur Gefahr.
Die Diskussion über ethische Richtlinien ist überfällig. Was darf ein Chatbot in medizinischen Fragen? Wer haftet, wenn eine Antwort falsch oder unvollständig ist? Wo endet Information, wo beginnt Behandlungsempfehlung? Wer kontrolliert die Trainingsdaten, wer prüft die Quellen, wer aktualisiert das Wissen? Solche Fragen dürfen nicht in Entwicklungsbüros verhandelt werden. Sie gehören auf den Tisch der Öffentlichkeit, in Parlamente, in medizinische Ethikkommissionen.
Die Terminal Tribune fordert: Klare Kennzeichnung. Jeder Chatbot, der medizinische Auskünfte gibt, muss als das erkennbar sein, was er ist — eine Maschine, keine ärztliche Quelle. Keine Empathie-Inszenierung, die menschliche Nähe vorgaukelt. Keine Gewissheit, wo keine sein kann. Verifikationspflicht: Jede Aussage zu Verfahren, Risiko und Verlauf muss von einem Menschen gegengezeichnet werden, der die Verantwortung trägt.
Wer einen Schwangerschaftsabbruch erwägt, braucht keine Algorithmen. Sie brauchen Ärztinnen, Beratungsstellen, verlässliche Wege. Chatbots können einstweilen Lotsen sein — Wegweiser zu echter Hilfe. Aber kein Ersatz für die Anlaufstelle, die tatsächlich medizinisch und menschlich auffängt. Wer das verwechselt, macht aus Hilfsbereitschaft ein Lotteriespiel.
Frauen in dieser Lage sind keine Versuchsobjekte für Sprachmodelle. Sie sind Menschen mit Würde, die Antworten suchen, die zählen. Eine Maschine, die Auskunft gibt, ohne Verantwortung zu tragen, ist in solchen Fragen keine Hilfe. Sie ist ein Risiko mit freundlicher Oberfläche.
Die Technik ist Werkzeug. Sie ist neutral, solange Menschen sie führen. Im medizinischen Bereich, insbesondere bei Entscheidungen über den eigenen Körper, ist diese Führung keine technische Frage. Sie ist eine ethische. Wer hier nachlässt, lässt Frauen allein mit Maschinen, die es gut meinen — und es oft nicht gut genug machen.
Die Drähte summen weiter. Ich bleibe dran.