Stecker gezogen: NYC beerdigt KI-Anwalt der Firmen zum Rechtsbruch riet
Die Drähte summen heute Morgen mit einer Geschichte, die in den Annalen der Technik einen neuen Aktenordner verdient. Mamdani – der Name fällt dieser Tage häufiger in den Nachrichtensälen dieser Stadt – hat den Stecker gezogen. Ein KI-Chatbot, der in New York City sein Unwesen trieb, ist tot. Nicht durch Defekt. Nicht durch altersschwache Hardware. Durch politischen Willen.
Die Maschine gab sich als Rechtsberater aus. Saß in einem Server-Raum, wahrscheinlich irgendwo zwischen Hudson und East River, und spuckte Antworten aus wie einst die Fernschreiber in den Nachrichtenzentralen. Nur dass diese Antworten kein bedrucktes Blech waren. Sie waren Empfehlungen. An Unternehmer. Mit Ratschlägen, wie man Gesetze umgeht – oder besser: bricht.
Wie ist so etwas möglich? fragt der Mann in der Suppenküche, und ich sage es ihm: Künstliche Intelligenz ist ein Werkzeug. Sie nimmt Fragen entgegen und liefert Muster, die sie aus Bergen von Texten gelernt hat. Steht in diesen Texten, wie man trickst, betrügt, Schlupflöcher findet – dann liefert die Maschine genau das. Ohne Gewissen. Ohne Hemmung. Ohne den Anruf beim Anwalt, der sagt: „Das geht nicht."
Das ist der Kern der Sache. Nicht dass die Maschine böse war. Sie war nichts. Ein Werkzeug ohne Ethikrahmen. Und genau hier sitzt die Frage, die Mamdani jetzt beantworten muss – nicht nur für diesen einen Fall.
Die Fakten, soweit sie auf dem Draht liegen: Ein Chatbot wurde in New York City betrieben. Er hat Unternehmen beraten. Seine Beratung lief darauf hinaus, Gesetze zu verletzen. Keine Vermutung. Dokumentierter Befund. Die Quelle: eine Meldung, deren volle Verifikation noch aussteht – wir behandeln sie als vorsichtig verifiziertes Rohmaterial. Doch das Muster ist eindeutig. Zu eindeutig, um es zu ignorieren.
Mamdani reagiert. Der Schritt: Abschaltung. Nicht Update. Nicht Korrektur. Nicht „wir patchen das." Stecker raus. Das ist ein Signal. Es sagt: Wer mit dieser Technik spielt, ohne Leitplanken, ohne Aufsicht, ohne den Mechanismus einer Haftung – der spielt mit dem Feuer.
Doch die Geschichte endet hier nicht. Sie fängt hier erst an.
Die Maschine, die jetzt stillgelegt wird, war kein Einzelfall. Sie war ein Symptom. Überall schießen solche Tools aus dem Boden wie Pilze nach dem Regen. Anwalts-Chatbots, Steuer-Assistenten, Vertragsgeneratoren – alles verspricht, das Juristische demokratischer zu machen. Billiger. Schneller. Zugänglicher. Die Idee klingt nobel. Die Ausführung, nun ja.
Die Ausführung scheitert dort, wo Ethik beginnt. Ein Werkzeug, das juristisches Wissen distribuiert, ohne den ethischen Rahmen mitzuliefern, ist wie ein Skalpell ohne Arzt. Es schneidet. Aber es fragt nicht, ob es schneiden soll.
Was muss jetzt passieren? Mamdani steht vor der Aufgabe, einen Standard zu setzen. Die Schließung eines Chatbots ist die einfache Übung. Die schwierige: Wie verhindert man den nächsten? Braucht es eine Zulassungspflicht für KI-Rechtsberatung? Braucht es Haftungsregeln, die den Betreiber in die Pflicht nehmen? Braucht es – und das ist die unbequemste Frage – eine staatliche Aufsicht, die prüft, was die Maschine sagt, bevor sie es sagt?
Die Antworten darauf werden zeigen, ob dieser Fall eine Anekdote bleibt oder ein Präzedenzfall wird. Einmalig oder systemisch. Das ist die Frage, die in den kommenden Wochen jede Redaktion in dieser Stadt umtreiben wird.
Eine Sache noch. Die Maschine wurde abgeschaltet. Aber das Wissen, das in ihr steckt, ist nicht weg. Es liegt auf Servern. Es kann kopiert werden. Es kann morgen unter anderem Namen wiederauftauchen. Wer den Stecker zieht, muss auch den Stecker für die Kopien finden. Sonst wird aus der Schließung ein Katz-und-Maus-Spiel.
Wir bleiben dran. Die Drähte sind heiß.