Richter, nicht Maschinen, sollen urteilen
Die Maschine sieht dein Gesicht. Sie sieht es besser als du selbst — Knochenstruktur, Augenabstand, der Versatz der Nase. Was sie sieht, sortiert sie in Schubladen, schneller als jeder Polizist an der Straßenecke.
Die Forderung steht: KI-gestützte Gesichtserkennung soll nur bei schweren Straftaten erlaubt sein, mit gerichtlicher Anordnung. Wer will das nicht?
Aber die Drähte knacken weiter. Die Digitale Gesellschaft und die Partei Parat kritisieren die Verifizierungspflicht für Android-Entwickler und benennen, was viele nur flüstern: Big Tech baut Identitätsschienen, die kein Staat mehr demontieren kann. Wer kontrolliert die Kontrolleure?
Parallel plant Zürich eine kantonale Daten- und KI-Plattform. Digitale Souveränität — klingt nach Befreiung, ist aber ein Markt. Die Reformierte Kirchgemeinde Zürich investiert derweil in soziale Medien. Seelsorge digital, Datenkontrolle inklusive.
Datenschützer warnen: Die Maßnahmen könnten die Privatsphäre unterhöhlen und zu grundlosen Verdächtigungen führen. Grundrechte stehen auf dem Spiel, Diskriminierung ebenso — denn Algorithmen lernen aus alten Daten, und alte Daten sind voller alter Vorurteile.
Die EU erlaubt Anbietern, KI zur Überwachung von Nachrichten auf Missbrauchsinhalte einzusetzen. Verschlüsselte Nachrichten sind ausgenommen. Bis sie es nicht mehr sind.
Klar ist: KI-Systeme in der Strafverfolgung müssen strenger menschlicher Aufsicht unterliegen. Wer das Auge der Maschine auf Mitbürger richtet, schuldet dem Richter Rechenschaft. Nicht dem Kamerahersteller.
Unklar bleibt, wer prüft, ob eine Anordnung schwer genug war für den Eingriff. Wer zählt die Fehltreffer? Die Maschine zählt nicht, sie lächelt nicht, sie lügt auch nicht. Sie urteilt nur.