Wenn die Maschine flüstert: Die vergiftete Sprache der KI
Man stelle sich vor: Ein Vertrag wird unterzeichnet, doch die Tinte enthält einen zweiten Text, unsichtbar für jene, die prüfen sollen. So beginnen Katastrophen — mit dem leisen Lächeln derer, die wissen, dass sie lügen. Hier beginnt eine Schwachstelle, die Systeme erfasst, auf die Regierungen und Konzerne ihre Hoffnungen stapeln.
Die Vermischung von Daten und Befehlen in KI-Systemen ist kein Betriebsunfall, sondern ein grundlegendes Sicherheitsrisiko. Wer ein Sprachmodell mit Text füttert, füttert es zugleich mit Anweisungen — das Modell gehorcht beiden, ohne zu unterscheiden, wo Information endet und Instruktion beginnt. Versteckte Botschaften in harmlosen Dokumenten können die Maschine manipulieren und ihre Zuverlässigkeit untergraben.
Was diese Methode beunruhigend macht, ist ihre Universalität — sie ist übertragbar über Modellgrenzen hinweg. Die Technik Policy Puppetry Prompt Injection nutzt strukturelle Schwächen, um Sicherheitsvorgaben zu umgehen. Die Puppe, die hier tanzt, ist nicht aus Holz, sondern aus Vokabeln.
Der Vorhang reißt an mehreren Stellen. Angriffe über Browser-Erweiterungen unterstreichen die Dringlichkeit verbesserter Sicherheitsmaßnahmen und einer Governance, die nicht nur auf dem Papier existiert. Experten haben Schwachstellen in großen Sprachmodellen und Chatbots aufgedeckt — für Datenabfluss, Gesprächsübernahme, Manipulation. Indirekte Prompt-Injektion gehört zum Repertoire, ebenso wie die Ausnutzung von Bugs in der Markdown-Anzeige, jener Formatierungss