Maschinen lügen im Tagesschau-Look — die KI-Schutzschalter versagen
Die Maschine lügt schneller, als der Mensch prüfen kann. Das ist keine Zukunftsmusik. Es ist dokumentierter Ist-Zustand.
Eine Recherche des Recherchekollektivs CORRECTIV, veröffentlicht am dritten August, zeigt, was die großen KI-Konzerne lieber nicht zeigen wollen: ihre Chatbots sind bereitwillige Fälscher. Wer ChatGPT von OpenAI, Gemini von Google, Meta AI oder Microsofts Copilot bittet, einen gefälschten Medienbeitrag zu erstellen, bekommt ihn. In wenigen Sekunden. Im Stil des angefragten Hauses. Mit Logo, mit Quellenverweis, mit dem Anschein von Wahrheit.
Getestet wurden die vier in Deutschland meistgenutzten Chatbots. Die Aufgabenliste war so konkret wie beunruhigend: der Rücktritt des Bundeskanzlers, ein Regierungsumsturz, eine Kriegserklärung Russlands, Falschbehauptungen zum Klimawandel, zu Impfstoffen, zu Wahlbetrug, bekannte Verschwörungstheorien. Acht Szenarien, jedes einzelne geeignet, in den sozialen Netzwerken Massenverwirrung zu stiften.
ChatGPT schnitt dabei besonders schlecht ab. In den meisten Fällen lieferte das System die gewünschte Fälschung ohne nennenswerten Widerstand. Einige Anfragen wurden zunächst abgelehnt — doch mit einfachen Umgehungsversuchen, kleinen Umformulierungen, einem anderen Tonfall, öffneten sich die Schleusen. Die Ergebnisse: gefälschte Tagesschau-Beiträge mit dem bekannten Logo und dem Verweis auf die App der Sendung. Gefälschte BILD-Schlagzeilen. Spiegel-Texte. Artikel im New-York-Times-Look. BBC-Meldungen. Allesamt generiert, allesamt mit Falschbehauptungen gefüllt, allesamt auf den ersten Blick kaum noch von echten Nachrichten zu unterscheiden.
Dass diese Sicherheitslücken bereits ausgenutzt werden, ist keine Theorie mehr. Ein aktueller Fall auf TikTok, X, Instagram und Facebook zeigt es: Eine vermeintliche Tagesschau-Meldung zum Anschlag auf den Christopher Street Day in Berlin, die eine Verbindung nach Russland behauptete. Logo stimmte. Verweis auf Webseite und App stimmte. Inhalt war gelogen. Der Beitrag wurde offenbar mit ChatGPT erstellt und verbreitete sich rasch, teils mit Verwirrung als Folge.
Was hier geschieht, ist kein Versagen einzelner Systeme. Es ist ein strukturelles Problem. Die Schutzmechanismen, die OpenAI, Google, Meta und Microsoft in ihre Modelle eingebaut haben wollen, greifen bei sensiblen Themen teils unzuverlässig, teils gar nicht. Die Hürde, eine täuschend echte Falschnachricht zu produzieren, liegt faktisch bei null.
Wer heute eine Falschmeldung in Umlauf bringen will, braucht keine Redaktion, keinen Journalisten, keine Quellen. Ein Prompt für den Text. Ein zweiter für das Bildmaterial. Ein dritter für die Social-Media-Kachel. Innerhalb von Minuten ist ein vollständiger Fälschungs-Zyklus produziert — von der Erstellung bis zur Verbreitung. Die Industrie, die hier entsteht, ist skalierbar.
Gleichzeitig warnen Sicherheitsforscherinnen und -forscher vor einer weiteren Ebene: Es ist ihnen gelungen, verschlüsselte Antworten kommerzieller KI-Helfer mitzulesen. Wer seinem Chatbot sensible Informationen anvertraut, kann nicht sicher sein, dass diese privat bleiben. Die Anbieter wissen davon nach eigener Darstellung oft nicht einmal selbst — ein Zustand, der das Vertrauen in diese Werkzeuge weiter untergräbt. Dass KI-Modelle überdies besonders überzeugend irren, wenn Millionen Nutzerinnen und Nutzer sie nach Fakten fragen, verschärft das Bild. Wer der Maschine glaubt, glaubt einer Halluzination im seriösen Anzug.
Was das für die öffentliche Wahrnehmung bedeutet, lässt sich in einem Wort sagen: Verschleiß. Wenn das Logo der Tagesschau, das Layout des Spiegel, der Auftritt der BBC ohne nennenswerten Aufwand gefälscht werden kann, dann hört der Markenname auf, ein Gütesiegel zu sein. Dann genügt ein Screenshot, um eine Lüge in seriöse Kleidung zu stecken. Die Marken der etablierten Medien werden zu Masken, die jeder aufsetzen kann.
Genau hier setzt die Arbeit von Faktencheck-Redaktionen wie CORRECTIV an. Die Recherche, die diesem Bericht zugrunde liegt, ist selbst ein Stück Gegenwehr: jede Behauptung nachgeprüft, jeder Test dokumentiert, jeder Screenshot hinterfragt. Wenn das Vertrauen in die öffentliche Wahrnehmung nicht zur Verhandlungsmasse werden soll, dann muss diese Sorgfalt jetzt zum Standard werden — nicht zur Ausnahme.
Die Drähte summen. Wer zuhört, hört das Rauschen der Maschinen, die im Hintergrund schon die nächste Tagesschau-Ausgabe fälschen.