Blackbox an der Grenze – wer kontrolliert die Kontrolleure?

In Wahrheit ist es ein System, das niemand vollständig überblickt.

In Wien habe ich Formulare ausgefüllt für Menschen, die keiner haben wollte. Heute sind diese Formulare Algorithmen. Die Namen verschwinden in Datenbanken. Eurodac speichert Fingerabdrücke, das BAMF nutzt Software zur Identitätsprüfung, an Flughäfen scannen Kameras Gesichter. Drohnen kreisen über dem Mittelmeer, Eurosur wertet Satellitenbilder aus. Die Maschine ist überall – und sie entscheidet vor.

Wer profitiert? Elbit Systems baut Überwachungstürme, Anduril liefert autonome Türme an die US-Südgrenze, Palantir speist ICE mit Daten. In Europa fließen Mittel in interoperable IT-Systeme und in die geplante digitale Work-and-Stay-Agentur. Die Digitalisierung der Migration wird zum Instrument der Wirtschaftskonkurrenz und des Sicherheitsrisikomanagements – ohne übergeordnete Strategie. So steht es in den Quellen. Und so bleibt es.

Die Politik sagt: strenge Kontrolle, transparente Regeln, menschenzentriertes Design. Die Realität: Die Blackbox-Natur vieler KI-Systeme erschwert die Überprüfung und Rechenschaftspflicht. Der AI Act benennt vier hochriskante Anwendungsfälle. Eine interne EU-Untersuchung soll die Einhaltung rechtlicher und ethischer Standards prüfen. Das Ergebnis: offen.

Es gibt erhebliche rechtliche und ethische Bedenken. Studien zeigen, dass Gesichtserkennung bei dunkler Hautfarbe und bei Frauen schlechter abschneidet. Der Bias ist eingebaut – und niemand haftet dafür. Es besteht ein Bedarf an stärkerer Forschung, Überwachung und internationaler Standardsetzung. In meiner Übersetzung: Es fehlt an Aufsicht. Es fehlt an Verantwortung. Es fehlt an dem, was im echten Leben bedeutet, dass du erklären kannst, warum diese Person abgewiesen wurde.

Die Maschine schweigt. Die Konzerne schweigen. Die Behörden verweisen auf laufende Verfahren.

Unter meinem Schreibtisch steht ein kleiner Koffer. Für alle Fälle.