Algorithmus im Dienst: Wer das Auge bezahlt, sieht nicht alles
Die Drähte summen, und ich höre mehr als mir lieb ist. In Brüssel haben sie sich auf etwas geeinigt, das sie selbst einen Rechtsakt nennen — den EU AI Act. Klingt nach Verwaltung, schmeckt nach Kontrolle. Wer Künstliche Intelligenz in Umlauf bringt, soll fortan nachweisen können, was seine Maschine tut, wie sie entscheidet, welche Risiken sie trägt. Transparenz, Dokumentation, Risikomanagement. Drei Wörter, die in der Sprache der Ingenieure nach Akten klingen, in der Sprache der Anwälte nach Vertrag, in der Sprache der Schulen nach einem Haufen Arbeit, den niemand bezahlen will.
Und genau hier beginnt der Knopf, an dem gezogen wird. Schulen, die KI-gestützte Überwachung einsetzen wollen — etwa Gesichtserkennung im Eingangsbereich, automatisierte Verhaltensauswertung im Klassenzimmer — sehen sich mit einer doppelten Mauer konfrontiert. Die DSGVO verbietet die Verarbeitung biometrischer Daten zur eindeutigen Identifizierung einer Person, weil diese Daten als besonders schutzwürdig gelten. Der AI Act verlangt obendrein, dass jeder Einsatz solcher Systeme dokumentiert, begründet und risikogeprüft wird. Wer soll das leisten? Eine Rektorin mit drei Stunden Verwaltungspauschale pro Woche? Ein Landkreis, der froh ist, wenn die Heizung im Winter funktioniert?
Unterdessen wandert das gleiche Auge, das in Schulen an der Bürokratie scheitert, in Hessen bereits über öffentliche Plätze. Das neue Polizeigesetz des Landes regelt den Einsatz von KI-gestützter Videoüberwachung — einschließlich biometrischer Gesichtserkennung — zur Abwehr erheblicher Gefahren. Klingt nach Brandanschlag, nach Terrorabwehr, nach dem großen Notfall. Die Praxis aber ist ein Pilotprojekt, angelegt auf zwei bis drei Jahre, mit dem ausdrücklichen Ziel, danach breit zu werden. Pilotprojekt heißt auf Deutsch: Wir probieren es aus, und wenn niemand schreit, machen wir weiter.
Die Frage, die keiner stellt: Wer kontrolliert die Kontrolleure? Die Trainingsdaten, die eine KI befähigen, Gesichter zu erkennen, stammen aus dem, was vorher schon an Bildern da war — und was vorher schon da war, trägt die Vorurteile derer, die es gesammelt haben. Die Fehlerraten für weibliche Gesichter und für Gesichter mit dunklerer Hautfarbe sind in der einschlägigen Forschung dokumentiert. Wenn nun dieselbe Technik, die in Schulen an der DSGVO scheitert, in Hessen unter dem Banner der Gefahrenabwehr fliegt, dann ist das nicht Widerspruch — das ist Verteilung. Hier bürokratisch blockiert, dort legislativ freigegeben.
Drohnenschwärme sind das nächste Kapitel derselben Geschichte. Sie fliegen, sie sehen, sie erkennen. Für die Strafverfolgung werden sie zunehmend unverzichtbar — neue rechtliche und technische Herausforderungen inklusive. Für die Waldbrandfrüherkennung klingen sie wie ein Segen: Rauchentwicklung, Hitzeveränderungen, Vegetationsstress — alles soll die Maschine früher sehen als der Mensch am Boden. Das Projekt wird von verschiedenen Partnern getragen und verspricht, die Reaktionszeiten bei Waldbränden erheblich zu verkürzen. Gut.
Aber die Drohne, die heute Rauch erkennt, ist dieselbe Hardware, die morgen eine Menschenmenge zählt, und übermorgen einzelne Gesichter extrahiert. Das Anti-Drohnen-Überwachungsgeschäft macht aus Alltagsgegenständen — einem Himmel, einer Wiese, einem Waldweg — Überwachungsinstrumente. Der öffentliche Druck, der sich dagegen formiert, ist berechtigt. Er kommt aber zu spät, wenn die Infrastruktur erst einmal steht.
Wer profitiert? Die Hersteller, klar. Die Sicherheitsbehörden, die mit jeder neuen Drohne, jeder neuen Kamera, jedem neuen Algorithmus einen Grund mehr haben, ihre Budgets zu rechtfertigen. Die Versicherungen, die Waldbrandrisiken präziser kalkulieren können. Wer zahlt den Preis? Der Bürger, dessen Gang durch die Stadt zur Datenpunktwanderung wird. Der Schüler, dessen Gesicht in einer Datenbank landet, die niemand vollständig versteht. Der Waldbesucher, der nicht mehr weiß, ob der Himmel über ihm noch Himmel ist oder schon Überwachung.
Was bleibt offen: Wer schreibt die Trainingsdaten? Wer prüft die Prüfer? Und wer entscheidet, wenn ein Pilotprojekt endet und die Regelwirklichkeit beginnt, ohne dass jemand gefragt wurde? Ich höre weiter auf den Drähten. Die Antworten kommen nicht von alleine.