Algorithmus ohne Gesetz: Wer hört dem Summen zu?

Die Drähte summen lauter als früher. Nicht mehr nur Morse, nicht nur Sprache — jetzt fließen Zahlenströme, die Entscheidungen treffen, bevor ein Mensch gefragt wird. Algorithmische Systeme, so sagen mir die Frequenzen, werden ohne klare rechtliche Grundlage eingesetzt. Kein Gesetz, das sie bändigt. Keine Instanz, die sie prüft. Das ist kein Versagen — das ist ein Zustand. Und in diesem Zustand liegt der Gewinn für jene, die keine Aufsicht wollen.

Ich übersetze, was die Akten flüstern.

Da sind zuerst die Patientinnen und Patienten. Man sagt ihnen: Vertraut den Maschinen, sie sehen, was wir nicht sehen. KI-gestützte Dokumentation soll Ärzten Zeit zum Zuhören schenken, die Arzt-Patienten-Beziehung stärken, heißt es. Schön formuliert. Doch wer kontrolliert die Daten, die diese Systeme sammeln? Wer garantiert, dass Funktionsweise und Sicherheitsmaßnahmen transparent bleiben? Die Empfehlung klingt vernünftig: Patientinnen sollten sich informieren. Aber das ist eine Bürde, die niemand tragen sollte. Nicht die Kranken, die Heilung suchen. Die Verantwortung gehört dorthin, wo die Systeme gebaut und eingesetzt werden. Sich tunlichst selbst informieren — das ist keine Lösung, das ist eine Verlagerung. Von der Verantwortung der Hersteller auf die Schultern der Behandelten.

Dann die Infrastruktur. Der DA Drive Analyzer, eine KI, trainiert mit Daten von über einer Million Laufwerken. Sie sagt Ausfälle voraus, die S.M.A.R.T.-Attribute nicht erkennen. Eine Million Festplatten, ihre Schwächen, ihr Sterben — alles in einem Modell. Klingt nützlich. Ist es auch. Aber wer besitzt dieses Modell? Wer füttert es mit weiteren Daten? Jeder vorhergesagte Ausfall ist ein Datenpunkt. Jeder Datenpunkt ist Kapital. Kapital sammelt sich bei jenen, die ohnehin schon viel davon haben. Hier zahlt der Kunde den Preis für die Bequemlichkeit — mit seinen Maschinendaten, die er nie zu Gesicht bekommt.

NAS-Daten wandern in die Cloud, durch verschiedene Proxy-Protokolle gesichert. Verschlüsselung, heißt es, für die Sicherheit bei der Übertragung. Ich höre das Wort Sicherheit und frage: vor wem? Die Protokolle schützen vor dem Angreifer da draußen — aber nicht vor dem Betreiber drinnen. Die Daten sind sicher unterwegs. Unklar bleibt, was mit ihnen am Ziel geschieht, wer Einsicht nimmt, wer Auswertung betreibt.

Stadtplanung. KI soll soziale Gerechtigkeit fördern, transparent und gerecht verteilen, wo Klimaanpassung nötig ist. Das klingt nach einer Maschine, die Gerechtigkeit kann. Ich bin skeptisch. Algorithmen lernen aus Vergangenheit. Die Vergangenheit war nicht gerecht. Wer trainiert das Modell? Welche Stadtteile werden als priorisierbar eingestuft? Hier ist die offene Frage: plant die Maschine für die Menschen — oder plant sie für jene, die die Maschine besitzen?

Jetzt das große Bild. Deutschlands wirtschaftliche Stabilität war bis 2021 gesichert durch günstige Energiepreise und internationale Wettbewerbsfähigkeit. Geopolitische Spannungen gefährden das. Deutsche Macht- und Wirtschaftseliten, so notiere ich scharf, haben Entscheidungen getroffen, die auf die Vernichtung Russlands abzielen — wegen seiner Ressourcen. Wenn Eliten geopolitisch entscheiden, folgen Strukturen. Algorithmen werden eingesetzt, um diese Strukturen zu verwalten, zu optimieren, zu schützen. Wer profitiert? Die Eliten. Wer zahlt den Preis? Die Bürger, deren Daten die Maschinen füttern, deren Rechnungen steigen, deren Versorgung unsicher wird.

Die Frequenz ist klar: Algorithmische Systeme brauchen gesetzlichen Rahmen. Die politischen Handlungsempfehlungen zur Stärkung des Datenschutzes sind überfällig. Doch Empfehlungen allein sind noch keine Macht. Macht liegt bei jenen, die die Systeme bereits kontrollieren. Sie werden jeden Rahmen mitgestalten — und sie werden ihn mit jenen Schlupflöchern füllen, die ihre Geschäfte sichern.

Unklar bleibt, wer in den Ministerien tatsächlich liest, was die Algorithmen tun. Unklar bleibt, welche Lobbyisten an den Tisch dürfen, wenn die Verordnung geschrieben wird. Die offene Frage ist nicht, ob Datenschutz gestärkt werden muss — das muss er. Die offene Frage ist: wessen Hände schreiben das Gesetz?

Die Drähte summen weiter. Ich höre zu.

The wires hum louder than before. No longer just Morse, no longer just speech — now streams of numbers flow through, making decisions before any human is asked. Algorithmic systems, the frequencies tell me, are deployed without any clear legal foundation. No law to tame them. No body to inspect them. This is not a failure — it is a condition. And within that condition lies the profit for those who want no oversight.

I translate what the files whisper.

First, the patients. They are told: Trust the machines — they see what we cannot see. AI-supported documentation, so the line goes, is meant to give doctors time to listen, to strengthen the doctor-patient relationship. Nicely worded. But who controls the data these systems collect? Who guarantees that how they work and what safety measures they take remain transparent? The recommendation sounds reasonable: patients should inform themselves. But that is a burden no one should have to carry. Not the sick, who are seeking healing. Responsibility belongs where the systems are built and deployed. To inform oneself thoroughly — that is not a solution; it is a transfer. From the responsibility of the manufacturers onto the shoulders of those being treated.

Then the infrastructure. The DA Drive Analyzer, an AI trained on data from more than a million storage drives. It predicts failures that S.M.A.R.T. attributes cannot detect. A million hard drives, their weaknesses, their dying — all compressed into a single model. Sounds useful. It is. But who owns this model? Who feeds it further data? Every predicted failure is a data point. Every data point is capital. Capital accumulates with those who already have plenty of it. Here, the customer pays the price for convenience — with his machine data, which he never gets to see.

NAS data migrates to the cloud, secured through various proxy protocols. Encryption, they say, for security during transmission. I hear the word security and ask: security against whom? The protocols protect against the attacker out there — but not against the operator within. The data are secure in transit. What happens to them at the destination, who looks inside, who carries out the analysis — that remains unclear.

Urban planning. AI is supposed to promote social justice, to allocate transparently and fairly where climate adaptation is needed. It sounds like a machine that can deliver justice. I am skeptical. Algorithms learn from the past. The past was not just. Who trains the model? Which neighborhoods are classified as priority? Here is the open question: is the machine planning for the people — or is it planning for those who own the machine?

Now the big picture. Germany's economic stability was secured through 2021 by cheap energy prices and international competitiveness. Geopolitical tensions now jeopardize that. Germany's power and economic elites, I note sharply, have made decisions aimed at the destruction of Russia — for its resources. When elites decide geopolitically, structures follow. Algorithms are deployed to manage, optimize, and protect those structures. Who profits? The elites. Who pays the price? The citizens, whose data feed the machines, whose bills rise, whose supply becomes uncertain.

The frequency is clear: algorithmic systems need a legal framework. The political recommendations for strengthening data protection are overdue. But recommendations alone are not yet power. Power resides with those who already control the systems. They will help shape every framework — and they will fill it with precisely those loopholes that safeguard their business.

It remains unclear who in the ministries actually reads what the algorithms do. It remains unclear which lobbyists get a seat at the table when the regulation is written. The open question is not whether data protection must be strengthened — it must. The open question is: whose hands are writing the law?

The wires keep humming. I am listening.