Die Black Box, die Menschen zum Schweigen bringt

Bei früheren Meldungen hatte SSI keine Ethikverstöße festgestellt. Das betraf auch einen intern dokumentierten Vorfall: Danach war es zwischen Blaser und dem Vater eines Athleten zu einer tätlichen Auseinandersetzung gekommen, die mehrere Juniorinnen und Junioren beobachtet hatten. Laut Bericht wurde trotzdem kein Ethikverstoß festgestellt, obwohl das Ethik-Statut des Schweizer Sports jede Handlung als Verstoss wertet, die die körperliche Gesundheit eines Menschen schädigen oder schädigen kann. SSI bestätigt nun die erneute Untersuchung, erteilt aber keine Auskünfte zu Zahl, Inhalt oder Stand der Verfahren. Eine Beschwerde ist kein Beweis, ein laufendes Verfahren kein Urteil.

Die Correctiv-Recherche trennt damit sauber, was belegt ist und was nicht. Sie belegt Beschwerden, eine erneute Prüfung und bisherige Ergebnisse. Sie belegt keinen Einsatz von KI bei SSI. Genau diese Trennung ist methodisch zwingend – und für die Debatte über künstliche Intelligenz noch wichtiger. Denn die zentrale Gefahr besteht nicht darin, dass KI genutzt wird, sondern darin, dass Menschen aufhören, ihre Entscheidungen kritisch zu prüfen.

KI wird zunehmend in der Unternehmensführung und Entscheidungsfindung eingesetzt. Sie verändert damit nicht nur Werkzeuge, sondern kritisches Denken und Entscheidungsprozesse in Unternehmen. Eine dokumentierte Einzelstudie nennt eine alarmierende Zahl: Experten übernehmen KI-Empfehlungen in 86 Prozent der Fälle, häufig unbewusst. Dieser Befund ist als Warnsignal zu verstehen, nicht als Naturgesetz für jeden Einsatzbereich. Er zeigt aber, wie leicht die Grenze zwischen Unterstützung und Stellvertretung verschwindet.

Ein KI-System kann Muster erkennen, Risiken sortieren und Entscheidungen beschleunigen. Doch der entscheidende Fehler liegt tiefer. Die Black Box liefert eine Empfehlung, während ihr Weg zum Ergebnis für Laien wie für Experten nicht nachvollziehbar bleibt. Man erhält das Ergebnis, nicht die Begründung. Wer die Empfehlung übernimmt, kann sie weder prüfen noch widerlegen, ohne selbst Zugang zu denselben Daten, Regeln und Unsicherheiten zu besitzen.

Damit wird die Black Box zur strukturellen Achillesferse moderner Entscheidungen. Solange ihre Arbeit verborgen bleibt, konzentriert sich Macht dort, wo das System, seine Entwickler und die Organisation hinter ihm stehen. Verantwortung lässt sich verteilen, Einfluss kann kaum bestritten werden. Die Entscheidung geht der Prüfung voraus; Machtstrukturen sind geschützt, bevor jemand überhaupt Einspruch erheben kann.

Die Folgen reichen in die Denkprozesse hinein. KI kann zu weniger eigenständiger Analyse führen. Sie kann das kritische Hinterfragen verringern. Wer eine schnelle, scheinbar objektive Ausgabe erhält, gewinnt leicht den Eindruck, weitere Recherche sei überflüssig. Das veränderte Vorgehen macht aus einem menschlichen Urteil eine Form der Abhängigkeit. Der Mensch bleibt nominell beteiligt, übernimmt aber zunehmend die Rolle eines Notstopps, der kaum noch ausgelöst wird.

Wer kontrolliert das System? Wer bestimmt, welche Daten und Zielvorgaben einfließen? Wer kann eine Entscheidung erklären? Wer profitiert vom Tempo, der Reichweite und der scheinbaren Neutralität der Maschine? Und wer zahlt den Preis, wenn eine Empfehlung falsch, verzerrt oder manipuliert ist? Solange diese Fragen nicht beantwortet werden, ist der Einsatz von KI vor allem eine Verlagerung von Entscheidungsmacht. Obwohl Menschen formell entscheiden, определяt das System, welche Fragen überhaupt sichtbar werden.

Menschliche Aufsicht löst dieses Problem nicht automatisch. Sie ist wertlos, wenn der Mensch die Empfehlung nur abnickt, die Begründung nicht kennt oder Abweichungen bestraft werden. Nötig sind nachvollziehbare Entscheidungswege, zugängliche Dokumentation, unabhängige Prüfung und ein wirksames Widerspruchsverfahren. Erklärbare Systeme können helfen; sie ersetzen weder Verantwortung noch politische Regeln.

Auch der Fall beim Basler Ruder-Club mahnt zur Nüchternheit: Beschwerden müssen geprüft, Vorwürfe belegt und Verfahren nachvollziehbar begründet werden. Die neue Untersuchung steht für sich genommen unter denselben Regeln. Der Vergleich mit KI ist dennoch aufschlussreich, weil Menschlichkeit allein keine Transparenz schafft. Wer überprüft werden soll, braucht Zugang zu den Gründen.

Die wahre Gefahr der kognitiven Abhängigkeit ist daher nicht die falsche Empfehlung. Es ist der Moment, in dem niemand mehr nachfragt. Eine Maschine spricht, der Mensch nickt, die Verantwortung verliert sich im System. Autonomie bedeutet dann nicht, Maschinen abzulehnen. Sie bedeutet, ihnen widersprechen zu können – und dafür einen Grund zu besitzen. Sonst regiert nicht bessere Entscheidung, sondern blinde Gewohnheit: die Algorithmen-Diktatur in Ordinary Form.