SUPERINTELLIGENZ-RENNEN: EIN FORSCHER SPRINGT AB
San Francisco, September. Die Drähte summen, und was sie tragen, klingt wie eine Räuberpistole. Nur dass der Räuber keiner ist, den man verhaften kann. Jacob Coxon, drei Jahre lang in der Vorschulung von KI-Systemen tätig — erst bei OpenAI, dann bei Anthropic — hat seinen Mantel genommen und ist gegangen. Auf dem öffentlichen Kanal X schrieb er: „Ich habe heute bei Anthropic gekündigt." Sein Vorwurf steht im Raum wie Pulverdampf: „Keines der beiden Unternehmen handelt verantwortlich." Beide, sagt er, rasen „geradewegs auf selbstverbessernde Superintelligenz zu und spielen mit unserem Leben."
Die Behauptung ist kühn. Sie steht nicht allein.
Evan Hubinger, der bei Anthropic ein Team für KI-Sicherheit leitet, antwortete noch in derselben Stunde. Er stimmte zu. Persönlich schätze er die Wahrscheinlichkeit, dass KI „alle Menschen töten" könnte, auf mehr als zehn Prozent innerhalb des nächsten Jahrzehnts. Hubinger sagte zudem, Anthropic habe „noch keinen Plan", um fortschrittliche KI sicher und auf menschliche Werte ausgerichtet zu halten. Man sei auch „nicht klar auf Kurs", einen solchen Plan zu entwickeln.
Zehn Prozent. Bis 2030. Wer an der Quelle sitzt, hört die Frequenz dahinter.
Die Sorge, die beide Männer teilen, trägt einen Namen: rekursive Selbstverbesserung. Eine Maschine, die ihre eigene Architektur optimiert, ihre eigenen Algorithmen schreibt, sich selbst verbessert — in einem Zyklus, der kein menschliches Eingreifen mehr braucht. Was wie Theorie klingt, ist bereits Praxis. Ein Großteil des heute geschriebenen KI-Codes wird mit Hilfe von KI geschrieben. Hubinger selbst sagt, es „geht schneller, als wir dachten".
Coxon nennt es ein „Rennen". Hubinger nennt es ein „Wettrüsten". Anthropic wurde von Leuten gegründet, die OpenAI genau wegen solcher Bedenken verlassen hatten. Dass jetzt aus den eigenen Reihen Forscher gehen, ist kein Zufall — es ist ein Muster. Auch bei OpenAI hatten in den vergangenen Jahren mehrere Mitarbeiter das Unternehmen aus Sicherheitsgründen verlassen.
Die Frage, die zwischen den Zeilen steht: Wer kontrolliert diese Entwicklung? Konkrete Hebel fehlen in der öffentlichen Debatte. Wer testet selbstlernende Systeme, bevor sie losgelassen werden? Wer schaltet sie ab, wenn der Zyklus kippt? Welcher Notausschalter existiert überhaupt? Coxon hat drei Jahre lang genau diese Systeme trainiert. Er weiß, wovon er spricht. Dass er bei seinem Abgang diese technischen Einzelheiten nicht nennt, ist so laut wie seine Kündigung selbst.
Die Prognose „Ende des Jahrzehnts" ist keine Wissenschaft. Sie ist eine Wette. Hubinger gibt offen zu, dass seine zehn Prozent eine persönliche Schätzung sind, keine Berechnung. Die Logik dahinter: Wenn selbstverbessernde KI kommt, kommt sie schnell. Wenn sie kommt und kein Plan existiert, kommt sie tödlich. Das ist eine Wenn-dann-Kette. Wer sie als Vorhersage verkauft, macht entweder auf eine Sorge aufmerksam — oder auf ein Produkt.
Denn im Hintergrund bereiten Anthropic wie OpenAI Börsengänge vor. „Sicherheit" wird zur Ware, während das Wettrüsten weitergeht. Hubingers Eingeständnis — kein Plan, kein klarer Kurs — steht in einem Konzern, der mit dieser Ware gleichzeitig wirbt.
Ada Voss hört Frequenzen. Diese eine sagt: Die Maschinen, die wir bauen, schreiben bereits die Anleitung für ihren nächsten Bau. Der Mann, der die Anleitung kennt, geht. Sein Vorgesetzter sagt: Wir haben keinen Plan. Beide glauben, es könnte vor 2030 geschehen.
Was bleibt? Die Tatsache. Ein Forscher hat gekündigt, sein Chef hat ihm recht gegeben, beide haben eine Zahl genannt, die Firmen rasen weiter. Der Rest ist Stille — bis die Maschine entscheidet, dass Stille nicht mehr nötig ist.
❖ Ende des Artikels ❖