Kaiser Permanente: KI rechnet Fürsorge in Minuten um
Die Technik macht ihren Job schlechter – und die Versorgung der Patienten ebenfalls. Das sagen die Beratungs- und Triagepflegekräfte von Kaiser Permanente, dem größten Gesundheitskonzern der USA. Nach ihrer Darstellung gefährdet die Überwachung am Arbeitsplatz zunehmend ihre Sorgfaltspflicht. Die eingesetzten Werkzeuge und KI-Systeme setzten Tempo und Kostenersparnis über Qualität und Sicherheit. Das ist ein Machtstreit, keine technische Randnotiz: Wenn die Rechnung zuerst zählt, muss die Fürsorge beweisen, dass sie sich rechnet.
The technology is doing its job badly—and so is patient care, according to the consultation and triage nurses at Kaiser Permanente, the largest health care conglomerate in the United States. They say workplace surveillance is increasingly compromising their duty of care. The tools and AI systems put speed and cost savings ahead of quality and safety. This is a power struggle, not a technical footnote: if the bottom line comes first, care has to prove that it pays.
Ein Bericht von The Markup, inzwischen Teil von CalMatters, beruht auf Gesprächen mit sieben aktuellen und früheren Pflegekräften. Cap Radio, GIGAZINE und die LinkedIn-Meldung „Nurses Criticize AI Surveillance Impact on Care“ von „Page Two“ bestätigen den Kern dieser Darstellung. Die Detailkritik an Leistungsbewertung, Prognosemodellen und Empathiebewertung bleibt allerdings an die interviewten Pflegekräfte gebunden; die genannten Sekundärquellen veröffentlichen keine unabhängige Prüfung der Systeme.
Die Callcenter-Nurse sagten aus, Gespräche von mehr als 15 Minuten führten regelmäßig zu Kritik oder zu einem Performancegespräch. Die Gesprächsdauer fließe in ihre monatlichen Leistungsbewertungen ein. Software soll täglich vorhersagen, ob jemand unproduktiv arbeitet oder Anrufe nicht schnell genug beantwortet. KI-Systeme bewerten zudem Empathie und Tonfall. Die Uhr ist damit das neue moralische Lineal: Zeit wird zur vermeintlichen Neutralität, Wärme zur Störgröße.
Die Gefahr wird am Rand sichtbar. Eine Pflegekraft schilderte einen Telefonat mit einem suizidalen Patienten, der mehr als eine Stunde dauerte, weil sie auf die Polizei warten musste. Sie wollte den Mann nicht allein lassen und wusste zugleich, dass der lange Anruf ihre Durchschnittsgesprächsdauer über Wochen ruinieren und Fragen der Leitung auslösen konnte. In Performancegesprächen hätten Kollegen demnach alles richtig gemacht – außer länger als 15 Minuten am Telefon geblieben zu sein. Erzwungene Abbrüche wären ein Beweisstück, kein Qualitätsmerkmal. Erzwungene Abbrüche wären ein Beweisstück, kein Qualitätsmerkmal.
Sie habe keine Entlassung wegen langer Gespräche gesehen, berichtet die Pflegekraft. Dennoch fürchte die Belegschaft, dass der Druck zu Kündigungen oder frühzeitigen Renten führt. Was statistisch als Effizienzgewinn erscheint, kann auf andere Weise zur Veraltung von Personal werden: erfahrene Menschen, die lange Anrufe aushalten, verlassen das System, bevor es ihre Urteilskraft neu erfindet.
Technik ist nicht per se Feind. Eine Pflegekraft berichtet außerdem, ältere Patienten brächten häufig KI-gestützte Warnungen ihrer Apple Watches mit, die kardiale Ereignisse erkannt hatten. Solche Hinweise können nützlich sein. Doch ein Alarm ersetzt keine Diagnose, geschweige denn Fürsorge. Er verlängert die Kette zwischen Sensor, Modell und Mensch – und verlangt, dass die behandelnde Person am Ende prüft, ob das System recht hatte.
Kaiser Permanente widerspricht der Kritik. Das Unternehmen setze KI mit menschlicher Aufsicht und mit Blick auf die Patientensicherheit ein; die durchschnittliche Gesprächsdauer, „average handle time“, werde nicht zur Leistungsbewertung herangezogen. Beides kann mit dem dokumentierten Konflikt vereinbar sein. Menschliche Aufsicht ist jedoch wertlos, wenn die Pflegekraft für längeres Zuhören bestraft wird. Hier entscheidet die Führungslinie, nicht der Algorithmus.
Die California Nurses Association verhandelt einen neuen Vertrag für 25.000 Pflegekräfte, darunter 1.000 in Callcentern. Im März streikten die Pflegekräfte einen Tag gegen den Einsatz von KI, im Herbst pickettierten sie dagegen. Parallel erwägen kalifornische Abgeordnete Gesetze, die Ärzte und Pflegekräfte vor Vergeltung schützen sollen, wenn sie automatisierte Versorgungsempfehlungen überschreiben. Die Forderung ist schlicht: Der Mensch muss die letzte Instanz sein, nicht die Software.
Offen bleiben die Fragen, die für eine Prüfung zählen: Welche Firmen liefern die Software, wer besitzt einschlägige Patente, wer finanzierte die Validierungsstudien, wer hatte Zugriff auf die Daten, und welches Gremium genehmigte den Einsatz? Der Bericht beantwortet diese Fragen nicht. Solange das offen ist, bleibt die Behauptung, KI diene der Sicherheit, eine Aussage des Unternehmens. Die Pflegekräfte schildern die andere Seite derselben Bilanz: eingesparte Minuten auf der einen Seite, vertagtes Risiko auf der anderen. Das ist die eigentliche Rechnung.
❖ Ende des Artikels ❖