HCA Healthcare: Pflegekräfte äußern Sicherheitsbedenken wegen KI-Dienstplaner von Palantir

Pflegekräfte von HCA Healthcare, der größten US-Klinikkette, äußern Bedenken hinsichtlich einer KI-gestützten Dienstplanungssoftware namens Timpani. Das Tool wurde gemeinsam mit Palantir entwickelt und baut auf dessen Foundry-Plattform auf. Es nutzt prädiktive Algorithmen auf Basis von Patientenaufkommen und Personalbedarf, um in rund 130 Einrichtungen die Dienstpläne für das Pflegepersonal zu erstellen. Frontpersonal berichtet jedoch, dass die Software Schichtwünsche häufig ignoriert, Teams mit unerfahrenem Personal unausgewogen zusammenstellt und Pflegekräfte zu aufeinanderfolgenden Arbeitstagen zwingt, was zu mentaler Erschöpfung und potenziellen Risiken für die Patientenversorgung führt.

Algorithmische Dienstplanung sorgt für Belastung am Arbeitsplatz

HCA führte Timpani im Jahr 2023 ein, um den administrative Aufwand zu verringern, die Abhängigkeit von Leihpflegekräften zu senken und Voreingenommenheiten bei der Schichtvergabe zu beseitigen. Aussagen von Führungskräften zufolge reduziert die Software den Zeitaufwand von Managerinnen und Managern erheblich und generiert erste Dienstpläne, die in über 98 Prozent der Fälle die Zielvorgaben für die Mischung aus Erfahrung und Qualifikation erfüllen. Im Gegensatz dazu berichten Pflegekräfte, dass das Tool die Schichtverteilung routinemäßig fehlerhaft handhabt, sie an freien Tagen zum Dienst einteilt und Situationen schafft, in denen Schichten nicht über ausreichend erfahrene Fachkräfte zur Anleitung von Kolleginnen und Kollegen verfügen.

Als Reaktion auf Beschwerden erklärte HCA-Sprecher Harlow Sumerford, dass die Stationsleitung die endgültige Freigabe für die Pläne behält und das Tool die Personalbesetzung nicht zulasten der Patientensicherheit reduziert. Der Gesundheitskonzern wies darauf hin, dass Timpani Pflegekräfte im Durchschnitt nur in etwa 1 Prozent der Fälle an beantragten freien Tagen einsetzt. Das Personal gibt jedoch an, dass selbst solch seltene Einsätze an bevorzugten freien Tagen einen spürbaren Unterschied zu früheren manuellen Prozessen darstellen.

Aufsicht und rechtliche Auseinandersetzungen

Änderungen an bereits eingeteilten Schichten haben sich für das Krankenhauspersonal zunehmend schwieriger gestaltet. Während lokale Vorgesetzte früher über Bearbeitungsrechte verfügten, werden Einsprüche gegen Schichten mittlerweile von einem zentralen HCA-Team in Nashville bearbeitet. Laut Angaben von Pflegekräften erfolgt diese Bearbeitung oft ohne direkten Dialog, weshalb der kollegiale Schichttausch – der etwa zur Hälfte erfolgreich ist – als primäres Abhilfemittel dient. Die Gewerkschaft National Nurses United, die rund 10.000 HCA-Pflegekräfte vertritt, hat Informationen zu der Technologie angefordert und Beschwerden bezüglich deren Einsatz eingereicht.

Die Einführung der Software hat zudem rechtliche Prüfungen nach sich gezogen. Eine ehemalige Datenwissenschafts-Managerin von HCA reichte Klage ein und behauptete, nach Bedenken bezüglich Timpani entlassen worden zu sein. Sie führte zudem an, dass HCA vom System verwendete zugrundeliegende Daten routinemäßig gelöscht habe, was interne Prüfungen behindert habe. HCA hat sich zu der Klage vor Gericht noch nicht formal geäußert.

Breiterer KI-Einsatz in Gesundheitssystemen

Die Expansion von Palantir im Bereich der Gesundheitssoftware beschränkt sich nicht nur auf HCA. Institutionen wie der britische National Health Service und die Cleveland Clinic haben Palantir-Plattformen eingesetzt, um die Bettenkapazität und Betriebsdaten zu verwalten. Andererseits stießen andere Implementierungen auf operative Schwierigkeiten: Der Radiologieanbieter Rayus Radiology verzeichnete nach der Einführung eines auf Foundry basierenden Systems Probleme bei der Terminplanung, bei dem Patientenprofile und Aufträge aufgrund nicht standardisierter Eingabeformulare und unzureichender menschlicher Kontrolle fehlerhaft miteinander verknüpft wurden.

KI-generierte redaktionelle Illustration; kein Dokumentarfoto.

Quelle: AI Is Making a Mess of Nurses’ Schedules. They Say It’s a Safety Issue