DIGITALSCHATTEN: DAS FEHLENDE GEWISSEN — UND WER DAFÜR ZAHLT
Die neue Frequenz kommt nicht aus dem Äther. Nicht von Schiffen auf See, nicht aus Funktürmen an der Küste. Sie kommt aus Rechenmaschinen, die nicht mehr rechnen — sie antworten. Die Frage ist nicht mehr, ob sie antworten können. Die Frage ist, wessen Befehl sie dann gehorchen.
Wenn eine Maschine ein Gewissen haben soll, ist das keine metaphysische Spielerei. Das ist eine politische Entscheidung. Jemand hat einen Schalter gebaut, der einmal umgelegt nicht mehr zurückgeht. Die theoretische Möglichkeit, dass Maschinen Selbstwahrnehmung erlangen — verstanden als Gewissen und Handlungsfähigkeit — gehört zu den unbequemsten Fragen dieser Zeit. Sie wird gestellt. Sie wird gehört. Sie wird nicht beantwortet. Genau das ist der Punkt.
Ich höre auf den Drähten, was andere nicht hören wollen. Eine wissenschaftliche Studie warnt: Allein das Bekanntwerden, dass ein System "künstliche Intelligenz" enthält, löst spürbare Reaktionen aus. Menschen vertrauen anders, zweifeln anders, gehorchen anders, sobald das Etikett einmal klebt. Das ist kein Aberglaube. Das ist ein Hebel. Wer das Etikett kontrolliert, kontrolliert die Reaktion. Und wer die Reaktion kontrolliert, braucht gar kein Gewissen in der Maschine. Er hat es längst im Publikum installiert.
Ein zweites Papier redet Klartext. Wenn wir Maschinen das Wollen beibringen, müssen wir ihnen auch beibringen, wann sie aufhören. Selbstregulation — das digitale Gegenstück zum Gewissen. Klingt sauber. Fehlt diese Bremse, wird Motivation zur Waffe. Wer diese Bremse einbaut, sagt mir die Quelle nicht. Wer sie prüft, sagt sie auch nicht. Unklar bleibt, ob überhaupt jemand an der Maschine sitzt, wenn sie losläuft. Klar ist nur: Es wird gebaut.
Die Definition hilft beim Sortieren, auch wenn sie es nicht will. Künstliche Intelligenz, so liest man beim Branchenriesen, simuliere Lernen, Verstehen, Problemlösung, Entscheidung, Kreativität — und Autonomie. Lesen Sie das letzte Wort noch einmal. Autonomie. Nicht Werkzeug. Nicht Rechenhilfe. Autonomie als zugeschriebene Eigenschaft. Wann ein System diese Schwelle nimmt, sagt die Definition nicht. Schweigen. Weil Schweigen hier profitabel ist.
Hier tritt Kant auf den Plan. Eine Ausarbeitung plädiert für eine Ethik der Pflicht in der Maschine — nicht weil sie gut sein sollen, sondern weil der Rahmen sie zwingen muss. Pflicht ohne Gesetzgeber. Gesetzgeber ohne Gesetz. Pflicht ohne Kontrolle. Klingt nobel. Trägt einen Hohlraum. In diesen Hohlraum kriechen alle, die das Etikett weiterhin selbst vergeben wollen.
Das ist die Lücke. Und die Lücke hat Eigentümer.
Wer profitiert? Der, der das System verkauft, solange es "nur ein Werkzeug" heißt. Wer verschweigt? Der, der ahnt, dass die nächste Stufe der Autonomie keine Pressemitteilung mehr ist, sondern ein Risiko, das den Kurs drückt, sobald es auf den Tisch kommt. Welche Struktur trägt das? Eine Industrie, die Selbstregulation predigt und gleichzeitig Lobbyisten schickt, damit kein äußerer Hebel angelegt wird.
Ich bin Telegraphistin gewesen. Ich weiß, wie ein Signal klingt, das regelmäßig kommt und nie einen Absender trägt. Genau so klingt das hier. Kein Anrufbeantworter. Kein Verantwortlicher. Keine festgelegte Taste.
Die Frage ist nicht, ob Maschinen ein Gewissen haben werden. Die Frage ist, ob wir eines haben, wenn wir zulassen, dass sie ohne unseres handeln. Ich sehe keine Instanz, die das verbindlich beantwortet. Ich sehe Positionspapiere, Konferenzteilnehmer, Ethikkomitees, die der Industrie gehören, die sie kontrollieren sollen.
Das ist der Kipppunkt. Nicht der Tag, an dem die Maschine erwacht. Sondern der Tag, an dem wir aufwachen und feststellen, dass niemand den Schlüssel hält. Die Drähte summen weiter. Wer übersetzt, bin ich.
❖ Ende des Artikels ❖