Die Plattform sortiert nicht — sie skaliert

Die Bühne ist vertraut. Auf ihr steht die Plattform und verspricht, was sie seit Jahren verspricht: Ordnung. Ein Algorithmus wacht darüber, dass Inhalte den Regeln folgen, dass Monetarisierung funktioniert, dass das Böse aussortiert wird. Doch wer hinter den Vorhang blickt, sieht etwas anderes. Die Maschine, die moderieren soll, ermöglicht genau jene Skalierung, die Desinformation braucht, um unsichtbar zu werden.

KI-gestützte Moderation ist kein neutraler Akt. Sie ist ein Filter mit verteilten Interessen. Wer auf sie angewiesen ist, um Inhalte zu prüfen und zu Geld zu machen, delegiert Verantwortung an ein System, das Kampagnen automatisiert, die sich von authentischen Inhalten kaum noch unterscheiden lassen. Die Plattform wird unbeabsichtigt zum Brandbeschleuniger — und das Wort unbeabsichtigt ist das Bequemste an dem ganzen Arrangement, weil es Verantwortung zerfasert. Weil niemand mehr genau benennen kann, an welcher Schraube gedreht wurde.

Die Gegenmittel sind begrenzt. Das wissen jene, die sie verkaufen. Deepfake-Detektion bietet keinen vollständigen Schutz, schon gar nicht unter variierenden Rahmenbedingungen, unter wechselnden Codecs, Komprimierungen, Lichtverhältnissen. Die Angreifer wissen das. Die Verteidiger auch. Was bleibt, ist ein Wettrüsten, bei dem die Verteidigung stets einen Atemzug hinterherläuft — und bei dem selbst erfahrene Planer vor die Frage gestellt werden, ob das, was sie auf dem Bildschirm sehen, verifizierte Information ist oder eine platzierte Fälschung. Mediale Identitäten lassen sich manipulieren. Biometrische Systeme, einst als letzter Anker der Authentizität gepriesen, werden überwunden. Wer Deepfake-Detektion nicht in die Medienanalyse integriert, lässt seine Entscheidungsträger mit offenen Augen in die Irre laufen.

Die EU hat nun einen Kompromiss formuliert. Sexualisierte Deepfakes sollen verboten werden — ein längst überfälliger Schutz für die Opfer digitaler Gewalt. Gleichzeitig erhalten Unternehmen mehr Zeit zur Umsetzung neuer Vorgaben, die KI-Industrie wird entlastet. So sieht es aus, wenn Schutz und Geschwindigkeit gegeneinander aufgerechnet werden: die Schwächeren bekommen ein Verbot, die Stärkeren eine Frist. Wer profitiert? Die Architektur bleibt. Sie wird nicht abgerissen, sie wird frisiert.

Unklar bleibt, wer eigentlich haftet, wenn die Maschine sortiert und dabei die Lüge skaliert. Die Plattform sagt: der Algorithmus. Der Algorithmus sagt: die Daten. Die Daten sagen nichts. Und die Opfer? Die sortiert niemand heraus.

The stage is familiar. On it stands the platform, promising what it has promised for years: order. An algorithm ensures that content follows the rules, that monetization works, that the bad is sorted out. But those who peek behind the curtain see something else. The machine meant to moderate enables precisely the scaling that disinformation needs to become invisible.

AI-powered moderation is no neutral act. It is a filter with distributed interests. Those who rely on it to review content and turn it into money are delegating responsibility to a system that automates campaigns barely distinguishable from authentic content. The platform unintentionally becomes an accelerant — and the word "unintentionally" is the most convenient part of the entire arrangement, because it dissolves responsibility. Because no one can say precisely which knob was turned.

The countermeasures are limited. Those who sell them know it. Deepfake detection offers no complete protection — certainly not under varying conditions, shifting codecs, compression artifacts, lighting situations. The attackers know this. So do the defenders. What remains is an arms race in which defense is always one breath behind — and in which even experienced planners are forced to ask whether what they see on screen is verified information or a planted forgery. Media identities can be manipulated. Biometric systems, once hailed as the last anchor of authenticity, are being circumvented. Anyone who fails to integrate deepfake detection into media analysis is letting their decision-makers walk blindly into deception.

The EU has now formulated a compromise. Sexualized deepfakes are to be banned — a long-overdue protection for the victims of digital violence. At the same time, companies are being granted more time to implement new requirements, with the AI industry given relief. This is what it looks like when protection and speed are weighed against each other: the weak get a ban, the powerful get a deadline. Who benefits? The architecture remains. It is not dismantled — it is retuned.

It remains unclear who actually bears liability when the machine sorts and, in doing so, scales the lie. The platform says: the algorithm. The algorithm says: the data. The data says nothing. And the victims? No one sorts them out.