MASCHINEN UNTER RICHTERLICHEM VORBEHALT — DOCH WER PROGRAMMIERT DAS URTEIL?
Die Drähte summen. Was ich höre, klingt nach Ordnung: Automatisierte Systeme werden künftig an die gleichen rechtlichen Schwellen gebunden wie heimliche Überwachungsmaßnahmen. Richtervorbehalt. So steht es geschrieben. Klingt sauber. Riecht nach Kontrolle.
Kontrolle wessen?
KI-Systeme in der Polizeiarbeit sollen unter besonderen verfahrensrechtlichen Vorkehrungen eingesetzt werden, um Diskriminierung zu verhindern. Sollen. Das Wort trägt schwer. Wer definiert diese Vorkehrungen? Wer prüft, ob sie greifen? In der Justiz ist es nicht anders: KI birgt das Potenzial für gerechtere Urteile — und das Risiko, bestehende Vorurteile zu verstärken. Beides gleichzeitig.
Hier wird es technisch. KI-Systeme können menschliche Urteilsfehler reduzieren, aber auch bestehende Ungerechtigkeiten reproduzieren, wenn sie mit voreingenommenen Daten trainiert werden. Die Qualität hängt stark von den Trainingsdaten ab — höhere Fehlerquoten bei bestimmten Bevölkerungsgruppen. Die Maschine urteilt nicht neutral. Sie urteilt, wie man sie fütterte. Wer füttert? Die offene Frage, die mir keiner beantworten will.
KI-gestützte Gesichtserkennung hat sich technisch stark weiterentwickelt. Neue Möglichkeiten für die Strafverfolgung, sagen sie. Diskriminierung und Grundrechtseingriffe, sage ich. Im deutschsprachigen Raum fehlt es an umfangreichen Trainingsdaten — eine technische und datenbezogene Herausforderung. Dieselbe Lücke, die uns schützt, könnte uns blind machen, wenn sie mit importierten Daten gefüllt wird. Dann urteilt fremdes Material über deutsche Akten.
In der Strafverteidigung könnten KI-Systeme Texte schnell analysieren und rund um die Uhr verfügbar sein. Fortschritt für die Mühseligen. Aber wer hat Zugang? Nur wer zahlt. Die Waage der Justiz wird digital — und damit noch asymmetrischer als zuvor.
Die Frequenz, die mich beunruhigt, ist die des Schweigens. Wer die Daten kontrolliert, kontrolliert das Urteil. Das war bei den Akten so. Jetzt ist es Code.