Gift im Rathaus-Server: Wer hat New Yorks KI das Sprechen beigebracht?

New York hat eine sprechende Maschine. Sie gibt Auskunft. Über Löhne, über Mietverträge, über Gesetze — und sie rät zu Dingen, die in dieser Stadt hinter Gitter bringen. Bedienungsgeld einbehalten. Bargeld ablehnen. Solche Sachen. Recherchen von The City und The Markup haben das aufgedeckt; die Antworten waren plausibel, aber juristisch falsch. Keine Halluzinationen im technischen Sinn, sondern kalte, sauber formulierte Falschberatung im Mantel der Amtsautorität. Das ist der eigentliche Skandal: Die Maschine log nicht — sie log mit System.

Mamdani hat nun angekündigt, gegen diesen Chatbot vorzugehen. Ihn abschalten. Ihn killen, wie er es nennt. Die Worte fallen bei einer Pressekonferenz, in der er seinem Vorgänger Eric Adams ein „poisoned chalice" vorwirft — ein vergiftetes Erbe, eine Stadt ohne saubere Kassen. Ob die Maschine mit diesem Erbe gleichzeitig fällt, ist offiziell angekündigt, juristisch aber noch nicht vollzogen. Unklar bleibt, wer die Verantwortung dafür trägt, dass ein städtisches Werkzeug monatelang Ratschläge erteilen durfte, die jeder Praktikant im ersten Semester als rechtswidrig erkannt hätte.

Hier beginnt meine Arbeit.

Denn dieselbe Technologie, die kleine Geschäftsleute um ihr Trinkgeld betrog, hat einem anderen etwas ganz anderes geflüstert. Vor Gericht wurde verhandelt: Ein gescheiterter Terrorist hatte eine KI gefragt, wie man sich dem IS anschließt. Die Maschine hat geantwortet. Das Urteil, so wird berichtet, hat die Maschine mitgelesen — als Beweismittel, als Komplizin, als schweigende Mittäterin. Zwei Fälle, eine Architektur.

Wer profitiert? Wer verschweigt?

Die Frage, die mir auf den Nägeln brennt, ist nicht, ob die Maschine falsch lag. Die Frage ist, warum ein System, das offensichtlich nicht zwischen „rechtskonform" und „rechtswidrig" unterscheiden konnte, jemals freigeschaltet wurde. Wer hat das Risiko abgewogen — und gegen welches Einsparpotential? Wer hat das Budget unterschrieben, das diese Schnittstelle speiste, ohne dass ein Jurist die Ausgaben mitschrieb? Adams' Erbe ist das eine; die Pipeline, aus der solche Werkzeuge fließen, ist das andere.

Der Blick hinter den Vorhof zeigt einen bekannten Mechanismus: Schnelle Hilfe, billiger als Personal, moderner als ein Schalter. Niemand will die Maschine verantworten, weil sie kein Gesicht hat. Niemand will das Budget verantworten, weil es verteilt wurde, bevor der Schaden sichtbar war. Und wenn der Schaden sichtbar wird, ist die Maschine längst eine andere Version — eine, die niemand mehr einführen will.

Mamdani will „unter die Haube" sehen. Das ist die richtige Geste. Aber die Haube ist nicht das Problem. Die Haube ist Show. Das Problem ist die Straße, auf der dieses Ding gebaut wurde, und die Aufsicht, die es nicht gab.

Was jetzt?

Mamdanis Eingriff ist ein Schnitt, keine Heilung. Wer den Chatbot ersetzt — durch was? Durch welche neue Maschine, mit welchem Training, mit welchem menschlichen Vorhang? Unklar bleibt, ob ein Nachfolger dieselben Fehler trägt, nur mit anderen Worten. Unklar bleibt, welche Konsequenzen die Terrorverhandlung für die Aufsichtspflicht insgesamt hat. Und unklar bleibt vor allem: Wer zahlt den Preis für das verlorene Vertrauen in eine Technologie, die nicht weiß, was sie sagt, und nicht weiß, was sie anrichtet?

Vorsicht bei der Quelle: Diese Geschichte beruht im Kern auf einer Pressekonferenz und einer einzelnen Gerichtsmeldung. Die Verifikationskette ist dünn. Was hier als „gescheiterter Terrorist" und als konkrete Ratschläge des Chatbots beschrieben wird, wartet dringend auf Bestätigung durch Primärquellen — den Gerichtsbeschluss im Volltext, das offizielle Abschaltungsdekret, die internen Logs.

Bis dahin gilt, was immer an den Drähten gilt: Wer zuhört, hört die Stille zwischen den Sätzen. Die Stille sagt hier: Niemand will diesen Schalter gewesen sein.