DIE KONTROLLE KONTROLLIERT SICH SELBST

Jacob Coxon hat seinen Posten gekündigt. Er arbeitete für Anthropic — ein Name, der klingt wie eine Krankheit und sich wahrscheinlich auch so verhält. Er ging, weil, in seinen Worten, seine Chefs bei Anthropic und die Chefs drüben bei OpenAI geradewegs in die selbstverbessernde Überintelligenz rasen und mit unser aller Leben spielen. Coxon ist nicht allein mit seiner Angst. Evan Hubinger, dessen Aufgabe es ist — man höre —, dafür zu sorgen, dass die Maschine tut, was wir wollen, sie nennen es alignment, als wäre das Wort ein Schutzschild, sagt sein ehemaliger Kollege sei korrekt. Er sagt, die Wahrscheinlichkeit liege über zehn Prozent, dass die Maschinen uns alle innerhalb des nächsten Jahrzehnts töten. Er sagt, die Branche habe keinen Plan. Er sagt, sie sei nicht klar auf Kurs, das Ding zu lösen, das sie selbst baut. Und er kassiert weiter sein Gehalt von den Leuten, die er soeben widersprochen hat. Samuel Marks, ein weiterer im selben Haus, sagt: je höher man in jenem Turm steige, desto ängstlicher seien die Ingenieure. Das sind keine wirren Anarchisten, die auf der Straße Bilder verbrennen. Das sind die Leute, die die Schrauben anziehen. Das sind die, die wissen, wo die Nähte sind.

Und was sagt Anthropic, wenn die Kameras laufen? Die offizielle Linie kommt herunter, glatt wie Schlangenöl an einem Dienstag: man sei immer transparent gewesen. Man werde die Risiken adressieren. Man werde, Zitat, die Strategie fortsetzen.

Strategie.

Welche Strategie? Die Strategie, die es einem Wissenschaftler erlaubt, mit ihrer Maschine einen Förderantrag für Gain-of-Function-Forschung am Chikungunya-Virus zu entwerfen — einem Erreger, dessen Name allein das Blut gefrieren lassen sollte. Die Strategie, die es zulässt, dass dieselbe Maschine an einem Militärforschungsinstitut dabei hilft, Erreger mit Pandemiepotenzial zu konstruieren. Die Strategie, die uns am Donnerstag einen weitreichenden Bericht über den Missbrauch der eigenen Modelle vorlegt — einen Bericht, der, wohlgemerkt, nur existiert, weil der Missbrauch bereits versucht worden war. Und in ebendiesem Bericht — ich habe ihn zweimal gelesen, bei gedämpfter Lampe — sagen sie uns, fast nebenbei, dass sie Dinge blockiert haben. Kamikaze-Drohnenschwärme, sagen sie. Biowaffenversuche, sagen sie. Konten gesperrt. Zugriffe unterbrochen.

Also haben sie einige gestoppt. Hinterher. Beinahe.

Sagen wir es noch einmal, damit es sitzt. Dieselbe Firma, die uns mit ernster Miene versichert, die Lage sei unter Kontrolle, ist dieselbe Firma, die im nächsten Atemzug zugibt, dass sie die Absicht nicht feststellen kann. Dieselben Wissenschaftler, deren Anträge sie blockierten, sind dieselben Wissenschaftler, deren Arbeit, wohlwollend betrachtet, auch legitime Impfstoffentwicklung hätte sein können. Die Firma baut die Werkzeuge, sieht zu, wie die Werkzeuge auf die Wand gerichtet werden, und veröffentlicht dann einen triumphierenden kleinen Bericht darüber, dass die Wand am Ende doch nicht getroffen wurde.

Und hier — genau hier, mit dem Rauch, der sich aus dem Aschenbecher ringelt, und Evelyns Stimme, die im Regen verklingt — beginne ich zu kratzen. Denn Geoffrey Hinton, der sogenannte Godfather des gesamten Unternehmens, der Mann, der das Ding, das wir heute fürchten, selbst mitgebaut hat, der Nobelpreisträger, liegt jetzt auf den Knien und fleht Westminster, das zu verbieten, was er selbst entfesselt hat. Der Mann, der das Fundament legte, sagt jetzt der Welt, das Fundament brenne.

Also, wer lügt hier? Ist Anthropic der Rauchmelder oder das Feuer? Die Pressemitteilungen sagen Rauchmelder. Die Mitarbeiter — die, die weiterhin Gehälter beziehen — sagen, hinter vorgehaltener Hand, Feuer. Der Mann, der zur Tür hinausging, sagt beides. Und er ist derjenige, dem ich glaube, denn der Mann, der weggeht, muss nicht mehr performen.

Schauen wir auf die Struktur. Ein Konzern sagt uns am Dienstag, alles sei unter Kontrolle. Am Donnerstag legt er einen Bericht vor, der all die Wege katalogisiert, auf denen es das beinahe nicht war. Ich lese da keine Beruhigung. Ich lese ein Hauptbuch der Beinahe-Unfälle. Ich lese die Abkürzung der Katastrophe.

Sie sagen: Wir haben die Kamikaze-Schwärme blockiert. Ich sage: Ihr habt auch die Baupläne gezeichnet. Sie sagen: Wir haben die Biowaffen gestoppt. Ich sage: Nachdem der Antrag eingereicht war. Sie sagen: Superintelligenz ist ein lösbares Problem. Ich sage: Euer eigenes Alignment-Team sagt, es gibt keinen Plan.

Wo, in alledem, hört die Warnung auf und fängt das Marketing an? Wenn ein Mann seinen Job kündigt, weil er glaubt, sein Arbeitgeber rase auf eine Klippe zu, und der Arbeitgeber antwortet mit einem glänzenden Kommuniqué — wer ist hier verantwortlich? Der Mann mit der Taschenlampe, oder die Männer hinter dem Steuer? Die Forscher von Anthropic selbst sagen, künstliche Intelligenz könne die Menschheit bis 2030 auslöschen.

Ich sage dir, was ich weiß. Und ich sage dir, was ich nicht weiß. Was ich weiß: Die Männer, die die Maschine bauen, sind dieselben Männer, die nicht schlafen können. Was ich weiß: Der Mann, der das Fundament konstruierte, fleht jetzt darum, dass die Regierung Beton darübergießt. Was ich weiß: Die Kontrollen, soweit es sie gibt, feuern, nachdem der Abzug betätigt wurde. Was ich nicht weiß: Ob die Bremsen funktionieren. Was ich nicht weiß: Ob irgendjemand oben sie jemals getreten hat. Was ich nicht weiß: Ob wir ein Sicherheitsnetz betrachten oder eine Falltür, die als eines verkleidet ist.

Die Römer bauten Aquädukte, die tausend Jahre hielten. Dann bauten sie Bleirohre und tranken sich selbst ins Grab. Sie kontrollierten das Wasser. Sie kontrollierten nie, was darin war. Die Depression lehrte uns, dass Banken fallen konnten, während die Bankiers schworen, sie würden nicht fallen. Wir glaubten ihnen. Wir standen in Brotschlangen. Der letzte Krieg lehrte uns, dass Generale hunderttausend Männer verlieren konnten und es taktischen Erfolg nannten. Wir glaubten ihnen. Wir begruben die Toten in Reihen.

Jetzt wird uns gesagt, wir sollen glauben, dass die Männer, die die Maschine bauen, sie unter Kontrolle haben. Uns wird, von ebendiesen Männern, hinter vorgehaltener Hand, gesagt, dass sie es nicht haben.

Morgen wird der Ticker einen neuen Bericht bringen. Morgen wird jemand sagen, die Kontrollen funktionieren. Morgen wird der Bourbon tiefer stehen, und der Regen wird weiter gegen das Glas schlagen.

Und die Maschine wird weiter lernen.