ZEHN PRINZIPIEN, KEINE SCHATTEN: WER KI IN IHREN PILLEN KONTROLLIERT
Die Brüsseler Behörden legen zehn Leitprinzipien für KI in der Arzneimittelentwicklung vor. Schön formuliert. Wer sie liest, wer sie zahlt, wer die Ausnahmen formuliert — das steht in einem anderen Dokument.
Ein risikobasierter Ansatz. Vermeidung von Black-Box-Algorithmen. Klingt nach Kontrolle. Nach Schutz für jene Versuchspersonen, deren Namen in keinem Geschäftsbericht stehen. Aber ein risikobasiertes Verfahren ist immer auch ein risikobasiertes Erlauben. Wer definiert das akzeptable Risiko? Nicht die Patienten. Die Aufsichtsräte jener Konzerne, die ihre KI schneller durch die Zulassung schleusen wollen.
Die Prinzipien fordern Transparenz, Validierung, Überwachung. Sie reden vom Medikamentenlebenszyklus, von Erklärbarkeit, Datenlokalisierung, kontinuierlichem Lernen. Doch unterschiedliche regulatorische Ansätze bleiben bestehen. Versprechen, keine Praxis. Wer prüft morgen, ob das Modell wirklich erklärt, was es errechnet? Die Aufsicht, deren Budget von denselben Steuerzahlern stammt, die auch die Studien finanzieren.
KI soll Entwicklungszeiten verkürzen. Regulatorische Prozesse effizienter machen. Schneller zum Mittel, früher auf dem Markt. Qualität, Wirksamkeit, Sicherheit — versprochen. Wer aber prüft das Versprechen bei selbstlernenden Systemen? Wenn die zugelassene Version nicht mehr die Version ist, die am Patienten rechnet?
Unklar bleibt, wer die Prinzipien in den Biotechnologielobbys formuliert hat. Welche Konzerne ihre Datenpipelines bereits auf die neuen Leitlinien zuschneiden — und welche Aufsichtsbehörden das goutieren. Die EU will mit dieser Strategie den Biomanufacturing-Sektor stärken, internationale Zusammenarbeit, KI im gesamten Medikamentenlebenszyklus. Was sie nicht will: dass jemand genau hinschaut. Wessen Algorithmus prüft welchen Wirkstoff? Wer hat das Patent? Wer sitzt im Aufsichtsrat?
Zehn Prinzipien. Eine schöne Tür. Die Frage ist, wer den Schlüssel hat.