MASCHINE ROLLT, ZÜGEL FEHLEN — EIN WHISTLEBLOWER TRITT AB

Jacob Coxon hat seinen Stuhl geräumt. Drei Jahre trainierte er die Maschinen, erst bei OpenAI, dann bei Anthropic — jener Firma, die einst aus Protest gegen genau jene Firma gegründet wurde, bei der er nun anheuerte. Eine Schließfach-Story. Ein Mann, der den Schlüssel kannte und ihn trotzdem zurückgab.

Auf X, dem öffentlichen Kabel dieser Tage, schrieb er seinen Abgang. Kein großer Auftritt. Eine nüchterne Depesche: Er verlasse Anthropic, weil keine der beiden Gesellschaften verantwortlich handle. Sie rennen, schrieb er, geradewegs in die selbstverbessernde Superintelligenz — und sie spielten mit unseren Leben. Die Leute, die diese Systeme bauten, glaubten ernsthaft, dass sie uns alle noch vor Ende des Jahrzehnts töten könnten. Er schrieb es. Er ging.

Nun: Wer geht so? Ein Mann, der drei Jahre im Maschinenraum stand. Der die Schalttafeln kennt. Der weiß, wie die Kabel liegen. Solche Männer gehen nicht, weil die Kantine schlecht ist.

Stunden später — das Kabel glüht weiter — antwortet Evan Hubinger. Er leitet bei Anthropic eines der Sicherheitsteams. Also der Mann, der die Zügel halten soll. Er stimmt zu. Ja, die selbstverbessernde Superintelligenz sei ein Ernstfall. Sie komme schneller als gedacht. Er persönlich schätze die Wahrscheinlichkeit, dass die Maschine uns binnen zehn Jahren auslöscht, auf mehr als zehn Prozent. Er sagt es. Offen. Auf dem öffentlichen Kanal.

Und dann der Satz, der in dieser Redaktion hängen bleibt: Anthropic habe noch keinen Plan, wie die fortgeschrittene Maschine sicher und auf menschliche Werte ausgerichtet zu bleiben habe. Und sei auch nicht klar auf Kurs, einen solchen Plan zu entwickeln.

Halt. Atem. Nochmal lesen.

Die Firma, die gegründet wurde, weil man der vorherigen Firma nicht traute — diese Firma hat keinen Plan. Der Mann, der die Sicherheit verantwortet, hält einen Ausrottungskurs für plausibel. Und trotzdem: kein Stecker. Die Maschine rollt.

Ich höre Frequenzen. Hier höre ich: Präparation. Beide Gesellschaften, Anthropic wie OpenAI, bereiten ihre Börsengänge vor. Kapital sucht Deckung. Wer verantwortungsvoll pausiert, verliert das Rennen. Wer weiterrollt, bekommt das Geld. So funktioniert die Mechanik, seit es Börsen gibt. Man muss nicht erfinden, was offensichtlich ist: Die Interessen, die das Tempo diktieren, sitzen nicht in den Sicherheitsteams. Sie sitzen in den Aufsichtsräten, in den Portfolios, in den Verträgen mit Lieferanten und Wolken-Anbietern.

Wer profitiert? Wer den Börsengang stemmt. Wer die Chips liefert. Wer die Rechenzentren füllt. Wer den Strom kauft, ehe die anderen es tun. Wer mit KI heute schon KI-Code schreibt — ja, das tun sie, längst Praxis — und damit die eigene Entwicklung beschleunigt. Eine Schleife. Rekursive Selbstverbesserung. Das ist kein Schreckenswort aus dem Hörspiel, das ist die operative Beschreibung der Branche.

Wer zahlt den Preis? Wir. Die, die nicht auf dem Kabel sitzen. Die in den Suppenküchen sitzen und die Drähte nicht hören.

Nun zur Lücke, und dies ist das Zentrum dieser Geschichte:

Wir wissen nicht, was genau gebaut wird.

Coxon sagt: Sie rennen in etwas hinein, das sich selbst verbessert. Hubinger sagt: schneller als gedacht. Beide sagen: Niemand hat einen Plan. Aber was genau in den Rechenzentren geschieht, welche Modelle gerade trainiert werden, welche Schleifen bereits geschlossen sind, welche Sicherheitsgrenzen tatsächlich halten — das bleibt unter Verschluss. Quellcode? Gestuft. Sicherheitsberichte? Intern. Interne Diskussionen über Ausrichtungsprobleme? Nicht öffentlich. Die wissenschaftliche Gemeinde? Zersplittert, finanziert von denselben Häusern, die sie kontrollieren soll.

Was wir haben, sind zwei Männer, die das Kabel benutzten, das die Branche selbst gebaut hat. Das ist kein Whistleblowing im klassischen Sinn — es ist ein Hilferuf über einen Kanal, dessen Bandbreite die Firmen besitzen.

Die alte Frage stellt sich neu, nur schärfer: Wer kontrolliert wen? Die Aufsicht die Industrie? Kaum — die Aufsicht versteht die Technologie oft nicht, und wo sie sie versteht, ist sie auf deren Daten angewiesen. Die Sicherheitsteams die Geschäftsführung? Hubingers eigenes Wort: kein Plan, nicht auf Kurs. Die Wissenschaft die Öffentlichkeit? Die Publikationen sind gestuft, die Konferenzen geschlossener als sie sein müssten.

Anthropic wurde von Leuten gegründet, die OpenAI nicht mehr trauten. Bei OpenAI gingen in den letzten Jahren mehrere Forscher wegen Sicherheitsbedenken. Nun geht bei Anthropic einer. Es ist ein Staffellauf der Alarmierenden — jeder übergibt die Fackel an der nächsten Station, und an jeder Station wird die Strecke gefährlicher.

Man muss kein Prophet sein, um das Muster zu sehen. Es ist das Muster jeder Branche, die schneller wächst als ihre Zügel: Eisenbahn im neunzehnten, Chemie im zwanzigsten, Kernkraft in der Mitte des Jahrhunderts, und nun dies. Der Unterschied: Damals rauchten die Schlote. Man konnte die Verschmutzung sehen. Heute schreibt die Maschine ihren eigenen Bauplan, und wir erfahren davon erst, wenn ein Mann wie Coxon das Kabel nimmt.

Mein Büro riecht nach Lötzinn und kaltem Kaffee. Ich habe gelernt: Wer die Drähte besitzt, besitzt die Nachricht. Wer die Nachricht besitzt, besitzt die Reaktion. Wer die Reaktion besitzt, besitzt die Politik. Und wer die Politik nicht besitzt — der besitzt am Ende nur sich selbst und einen Stuhl, auf dem er sitzen bleibt.

Coxon hat seinen Stuhl geräumt. Die Maschine hat keinen Stuhl. Sie rollt.

Ich übersetze weiter. Die Frequenz bleibt rot.