Maven und die unsichtbare Mauer von Minab
Manches lernt eine Maschine nicht. Zum Beispiel, dass zwischen einer Kaserne und einer Grundschule eine Mauer steht. Dass auf dem Boden einer Liegenschaft Kreidezeichnungen von Kindern sind. Dass eine Datenbank, die im März nicht aktualisiert wurde, im Februar noch immer behaupten kann, das Gelände gehöre den iranischen Revolutionsgarden.
Am 28. Februar traf das US-Militär, gestützt auf Palantirs Maven Smart System, die Shajareh-Tayyebeh-Grundschule in Minab. 123 Kinder, nach UN-Angaben sogar mehr als 150 Menschen, starben. Sechs Monate lang blieb der Bericht im Pentagon. Die Untersuchungsergebnisse, die Bloomberg rekonstruierte, lesen sich wie das Drehbuch einer Tragödie, die niemand sehen wollte.
Verantwortlich ist nicht allein die Maschine. Es ist die Kette, die zu ihr führte: Personalabbau in den Teams für Zivilistenschutz, Zeitdruck durch über tausend Ziele in vierundzwanzig Stunden, eine veraltete Datenbank, ein System, dem die Verantwortlichen zu sehr vertrauten. Maven sollte veraltete oder widersprüchliche Informationen erkennen. Man habe sich darauf verlassen, sagen Beteiligte. Was früher Stunden dauerte, lief nun in Minuten. Was in Minuten entschieden wird, kann in Minuten töten.
Dass ausgerechnet Palantir diesen Vertrag trägt, ist kein Zufall. Google, einst Hauptauftragnehmer für Project Maven, zog sich 2018 zurück, Mitarbeiter protestierten gegen die ethischen Implikationen militärischer KI. Palantir übernahm. Das Unternehmen liefert heute das, was andere nicht mehr liefern wollten: die Architektur einer Kriegsführung, die auf Algorithmen baut. 1,3 Milliarden Dollar stehen im Raum. Eine Investition in Geschwindigkeit. Eine Investition in Sorgfalt offenbar nicht.
Dass ausgerechnet eine Software, deren Nutzung von der hiesigen Datenschutzbehörde als rechtswidrig eingestuft wurde, über Leben und Tod entscheidet, sollte niemanden mehr überraschen. Wer die Architektur baut, entscheidet, was sichtbar wird. Was die Mauer zwischen Schule und Kaserne unsichtbar machte, ist nicht das Versagen einer Maschine. Es ist die Entscheidung, einer Maschine zu vertrauen, wo kein Vertrauen gerechtfertigt war.
❖ Ende des Artikels ❖