DIE MASCHINE SOLL ENTSCHEIDEN — WER SCHREIBT IHR DIE MORAL?
1937. Die Drähte summen. Und in diesem Summen, irgendwo zwischen den Laboratorien der Männer mit den dicken Brillen, wird eine neue Frage gestellt. Nicht ob die Maschine denken kann — das haben wir uns längst abgewöhnt zu fragen. Sondern: wessen Gewissen sie tragen soll.
Eine Handvoll Denker sitzt an Schalttafeln, die nach Relais riechen und nach der Zukunft. Sie diskutieren über etwas, das sie "moralische Maschinen" nennen. Rechenmaschinen, die nicht nur addieren und sortieren, sondern urteilen sollen. Über Menschen. Über ihre Taten. Über ihr Leben.
Die Terminal Tribune hat die Frequenz angezapft. Was hier verhandelt wird, geht jeden an, der glaubt, Justiz sei ein menschliches Vorrecht.
Die Grundfrage ist einfach gestellt und teuflisch schwer zu beantworten: Kann ein Algorithmus ethisch handeln? Und wenn ja — nach wessen Ethik?
Es beginnt mit einem Bericht. Eine gelehrte Gesellschaft hat ein Komitee zusammengerufen, dem Philosophen, Mathematiker und Ingenieure angehören. Ihr Auftrag: definieren, wie eine Rechenmaschine zu moralischen Entscheidungen kommen kann. Nicht ob sie es kann. Wie. Das ist der erste Trick. Man verschiebt die Frage von "ob" zu "wie", und schon ist die Entscheidung gefallen, bevor die Debatte beginnt.
Wer sitzt in diesem Komitee? Männer — und es sind Männer, lassen wir uns nichts vormachen, die Tür war noch nie weiter offen — die den Code schreiben, die Standards setzen, die definieren, was "richtig" und "falsch" bedeutet im binären System. Sie kommen aus den Laboratorien großer Konzerne. Aus den Thinktanks, die von denselben Konzernen finanziert werden. Aus den Universitäten, deren Stühle von denselben Stiftungen dotiert werden.
Eine geschlossene Runde. Und sie schreibt das Regelwerk für eine Technologie, die bald über Bewährungsanträge entscheiden könnte. Über Kreditwürdigkeit. Über medizinische Diagnosen. Über Krieg und Frieden, wenn man den Militärs glaubt, die ebenfalls mitlesen.
Die zweite Frage: Was passiert, wenn die Maschine irrt? Wenn der Algorithmus einen Unschuldigen verurteilt, einen Kranken abstößt, einen Kreditwürdigen ablehnt? Wer haftet? Der Programmierer, der die Variablen gesetzt hat? Der Konzern, der die Lizenz verkauft hat? Der Staat, der das System eingekauft hat?
Niemand. Das ist die Antwort, die sich abzeichnet. Die Maschine hat keine Hände, die man fassen kann. Ihr Urteil ist verteilt auf tausend Komponenten, auf abertausend Zeilen Code, auf ein Netz von Entscheidungen, das kein Mensch mehr überblicken kann. Wenn sie versagt, versagt sie kollektiv. Und die Verantwortung löst sich auf wie Rauch.
Ein Philosoph hat es ausgesprochen, und ich notiere es wörtlich: "Die Suche nach moralischer Maschinenintelligenz ist kein technisches Problem. Es ist ein politisches." Ein politisches Problem. Definiert von wem? Gelöst für wen?
Das ist der blinde Fleck. Wir diskutieren über Ethik, als wäre sie eine Konstante. Als gäbe es eine moralische Wahrheit, die nur in die richtigen Variablen gegossen werden müsste. Aber Moral ist kein Naturgesetz. Sie ist Verhandlungsmasse. Sie ist das Ergebnis von Kämpfen — zwischen Klassen, zwischen Geschlechtern, zwischen denen, die Macht haben, und denen, die Macht erleiden.
Wenn ein Komitee aus privilegierten Männern die Ethik einer Maschine definiert, dann definiert es die Ethik seiner Klasse. Dann reproduziert die Maschine nicht Wahrheit, sondern Vorurteil. Nur schneller. Nur unsichtbarer. Nur mit dem Anschein mathematischer Objektivität.
Das ist der Kern. Die Maschine urteilt nicht — sie übersetzt. Sie übersetzt die Vorurteile ihrer Erbauer in eine Sprache, die niemand mehr lesen kann. Und wer die Sprache nicht liest, kann auch nicht widersprechen.
Ich habe in den Archiven gegraben. Die ersten Rechenmaschinen, die menschliche Entscheidungen simulieren sollten, waren für die Versicherungsmathematik gebaut. Tabellen, Tabellen, Tabellen. Wer bekommt eine Police? Wer zahlt mehr? Die Antwort lag in den Variablen — Adresse, Beruf, Alter. Damals wie heute diskriminierte das System. Nur wusste man es. Heute nennt man es Algorithmus und wäscht die Hände in Unwissenheit.
Der Versuch, Moral in eine Maschine zu programmieren, ist der ehrgeizigste und der gefährlichste unserer Zeit. Nicht weil die Technik versagt — Technik versagt immer irgendwann. Sondern weil die Ethik versagt, bevor die Maschine überhaupt eingeschaltet wird.
Wir laufen in eine Zukunft, in der Maschinen über Menschen richten, und wir haben noch nicht entschieden, welche Menschen über die Maschinen richten. Das ist die offene Frage. Die einzige, die zählt.
Und sie wird nicht offen bleiben.