DIE MASCHINE LERNT UNSERE SCHULD

Mein Lötkolben zischt. Auf dem Tisch Papiere, die niemand lesen soll. Es geht um Maschinen, die Verbrechen vorhersagen — und um die Verbrechen, die sie dabei selbst begehen.

Die Technik ist verlockend: Daten rein, Wahrscheinlichkeit raus. Klingt nach Kristallkugel. Ist keine. Die Maschine lernt aus der Vergangenheit der Polizei — und die war nie neutral.

Bestimmte Viertel wurden häufiger kontrolliert, bestimmte Gesichter häufiger notiert. Füttert man das in einen Algorithmus, lernt er das Muster der Kontrolle und gibt es als Prognose zurück. Wo viel erfasst wurde, wird mehr erfasst. Ungerechtigkeit wird nicht korrigiert — sie wird automatisiert.

Dazu kommt: viele dieser Systeme stammen von privaten Firmen, oft außerhalb Deutschlands. Wer prüft deren Rechenregeln? Wem gehören die Daten? Rechenschaft endet dort, wo die Firmenadresse im Ausland liegt.

Wird statt Verhalten die sozioökonomische Lage einbezogen, trifft die Maschine keine Verdächtigen mehr, sondern ganze Schichten. Diskriminierung wird unsichtbar, weil sie in Zahlen steckt.

Staatliche Sicherheitskräfte greifen zunehmend zu KI und Überwachungstechnik — und der Grat zwischen Einsatz und Missbrauch ist schmal. Was heute der Fahndung dient, kann morgen der pauschalen Beobachtung dienen. Die Forschung nennt es „Surveillant Assemblage": das stille Zusammenwachsen von Überwachung und staatlicher Macht.

Im Hintergrund schimmert der Überwachungskapitalismus: Daten werden zur Ware, wer sie kontrolliert, kontrolliert den Blick der Polizei. Ohne ethische Datenverwendung und gesetzliche Schutzmaßnahmen fehlt das Gegenmittel.

Erschwert wird die Aufarbeitung durch Zugriffsbeschränkungen auf Forschungsarbeiten zur algorithmischen Fairness. Die Prüfer kommen nicht an die Unterlagen. Unklar bleibt, wer diese Sperren zieht — und wem sie nützen.

Die Maschine urteilt nicht. Sie rechnet. Aber wer ihre Regeln schreibt, wer ihre Daten füttert, wer den Stecker ziehen darf — das sind keine technischen Fragen. Das sind Machtfragen.

Ich schalte das Radio aus. Morgen wieder.

My soldering iron hisses. On the table: papers no one is supposed to read. This is about machines that predict crime — and the crimes they commit in the process.

The technology is seductive: data in, probability out. It sounds like a crystal ball. It isn't one. The machine learns from the police's past — and that past was never neutral.

Certain neighborhoods were patrolled more often, certain faces noted more frequently. Feed that into an algorithm and it learns the pattern of policing, then returns it as a forecast. Where much was recorded, more will be recorded. Injustice is not corrected — it is automated.

On top of that: many of these systems come from private companies, often outside Germany. Who audits their algorithms? Who owns the data? Accountability ends where the company's address lies abroad.

If socioeconomic status is factored in instead of behavior, the machine no longer targets individual suspects but entire social strata. Discrimination becomes invisible because it hides inside the numbers.

State security forces are increasingly turning to AI and surveillance technology — and the line between deployment and misuse is razor-thin. What serves manhunts today may serve blanket surveillance tomorrow. Researchers call it "surveillant assemblage": the silent merging of surveillance and state power.

Behind it all glimmers surveillance capitalism: data becomes commodity, and whoever controls it controls the police's gaze. Without ethical data use and legal safeguards, there is no antidote.

Investigating all this is further hampered by access restrictions on research into algorithmic fairness. Auditors cannot get to the documents. It remains unclear who imposes these barriers — and whom they serve.

The machine does not judge. It calculates. But who writes its rules, who feeds its data, who gets to pull the plug — these are not technical questions. They are questions of power.

I switch off the radio. Tomorrow again.