BRÜSSELS NEUE DRÄHTE: DIE MASCHINE MUSS SICH AUSWEISEN

Brüssel. Die Kommission hat den Stecker nicht gezogen, aber neu beschriftet. Wer künftig Maschinen baut, die entscheiden, bewerten oder Gesichter lesen — muss Ausweis zeigen. Das Gesetz verlangt Transparenz, Nachvollziehbarkeit und Nichtdiskriminierung beim Einsatz künstlicher Intelligenz. Klingt nach sauberem Kontakt. Riecht nach Lötzinn. Aber ich höre genauer hin.

Drei Stufen auf der Risikoampel: hochriskant, riskant, minimal. Die Unternehmen klassifizieren ihre Systeme selbst. Sie müssen nachweisen, dass ihre Entwickler über ausreichende KI-Kompetenz verfügen. Wer prüft das? Wieder das Unternehmen. Brüssel verlangt Sicht — und überlässt die Optik den Konstrukteuren.

Verboten steht unmissverständlich: Sozialkredit-Systeme, die Bürger nach Verhalten bewerten. Die Kommission will sie vom Netz nehmen. Verboten: Emotionserkennung an Schulen und am Arbeitsplatz. Verboten: biometrische Überwachung im öffentlichen Raum — die wird kurzerhand zur Hochrisikozone erklärt. Hier schützt das Gesetz Privatsphäre und Rechte der Bürger. Sauber.

Aber das Parlament nickt nicht einstimmig. Einige Abgeordnete klagen: zu lasch. Besonders die automatisierte Gesichtserkennung bleibt die offene Wunde im Entwurf. Ausnahmen für Sicherheitsbehörden — wie breit diese Hintertür wird, ist unklar. Die Sicherheitslobby war immer mit am Schalttisch. Das war nie anders.

Verbraucher dürfen sich beschweren, wenn Maschinen diskriminieren. Welche Stelle den Anruf aufnimmt, ist nicht endgültig geklärt. Eine Aufsichtsbehörde, deren Name noch zwischen den Instanzen pendelt. Ob sie beißt oder nur Papier zerknüllt — offene Frage.

Spannend wird das Kapitel Bürgerbeteiligung. In der Schweiz könnte das Volk per Referendum über die Schwellen mitentscheiden. In Deutschland böte sich eine Bürgerversammlung an. Direktdemokratische Instrumente, um die Mitsprache zu erhöhen — beides noch auf dem Reißbrett. Unklar bleibt, wer das Instrument nutzt und wer es blockiert.

Klare Sache: Die Maschine muss sich ausweisen. Aber wer den Ausweis prüft, wer wegsieht, wer vom Halbschatten profitiert — das ist der Draht, an dem ich bleibe.

Brussels. The Commission did not pull the plug, but it has relabeled it. Anyone who builds machines that decide, evaluate, or read faces from now on must show identification. The law demands transparency, traceability, and non-discrimination in the deployment of artificial intelligence. Sounds like clean contact. Smells like solder. But I'm listening more closely.

Three tiers on the risk traffic light: high-risk, risk, minimal. Companies classify their own systems. They must demonstrate that their developers possess sufficient AI expertise. Who verifies this? The company itself, once again. Brussels demands visibility — and leaves the optics to the engineers.

Outlawed, and unambiguously so: social credit systems that score citizens by behavior. The Commission wants them taken offline. Banned: emotion recognition in schools and the workplace. Banned: biometric surveillance in public spaces — declared a high-risk zone on the spot. Here the law protects citizens' privacy and rights. Clean.

But Parliament is not nodding in unison. Some members of parliament complain: too soft. Automated facial recognition in particular remains the open wound in the draft. Exceptions for security agencies — how wide that backdoor swings remains unclear. The security lobby has always had a hand on the switchboard. That was never different.

Consumers may file complaints when machines discriminate. Which body picks up the call has not been finally settled. A supervisory authority whose name is still shuttling between the institutions. Whether it bites or merely crumples paper — an open question.

The chapter on citizen participation gets interesting. In Switzerland, the people could have a say on the thresholds via referendum. In Germany, a citizens' assembly would be a fitting option. Direct-democratic instruments to boost participation — both still on the drawing board. It remains unclear who will use the instrument and who will block it.

Clear case: The machine must show its papers. But who checks the credentials, who looks the other way, who profits from the half-shadow — that is the wire I stay tuned to.