Un’infermiera di terapia intensiva in Florida ha richiesto 50 turni specifici in quattro mesi. Per più della metà delle volte, il software di pianificazione l’ha assegnata altrove, accumulando spesso giorni consecutivi in modi che descrive come mentalmente estenuanti. La sua esperienza non è una lamentela isolata. È, secondo gli infermieri di uno dei più grandi sistemi ospedalieri degli Stati Uniti, uno schema ricorrente.
HCA Healthcare, la più grande catena di ospedali negli Stati Uniti, ha implementato uno strumento di pianificazione basato sull’IA chiamato Timpani in circa 130 delle sue 190 sedi a partire dal 2023. Basato su Palantir Foundry, una piattaforma di integrazione e analisi dei dati sviluppata da Palantir Technologies, Timpani utilizza previsioni algoritmiche dei volumi dei pazienti e delle esigenze di personale per generare automaticamente i turni infermieristici. La premessa è semplice: sostituire la pianificazione manuale, che richiede molto tempo, con un software in grado di ottimizzare molte variabili contemporaneamente. La realtà, dicono gli infermieri, è notevolmente più complessa.
Cosa descrivono realmente le lamentele
Gli infermieri che hanno parlato con WIRED non si oppongono semplicemente a un’applicazione scomoda. Sostengono che Timpani crei condizioni che compromettono la cura dei pazienti. Le preoccupazioni specifiche includono turni con un numero insufficiente di infermieri, un mix inadeguato di personale esperto e junior, e un problema ricorrente soprattutto la domenica. Un’infermiera con un decennio di esperienza al letto del paziente ha descritto turni in cui tutti e quattro i suoi colleghi erano infermieri junior, lasciandola come unica clinica senior e costringendola a ritardare le cure per i pazienti più critici per guidare il personale meno esperto attraverso casi a minore acuzie.
Gli infermieri riferiscono anche che lo strumento ignora frequentemente le preferenze espresse per i giorni di riposo, noti internamente come “giorni rossi”. HCA ha riconosciuto che Timpani programma gli infermieri per l’1% dei giorni di riposo richiesti. Questa cifra può sembrare piccola, ma gli infermieri dicono che rappresenta un cambiamento significativo: essere assegnati al lavoro in un giorno rosso in precedenza era considerato essenzialmente inaudito in alcune strutture. Ora, secondo un’infermiera del Missouri, praticamente ogni infermiere nella loro sede lo ha sperimentato.
Gli effetti a valle sono pratici e cumulativi. Gli infermieri descrivono di aver trascorso più tempo a cercare di scambiare turni o di appellarsi alle assegnazioni rispetto a prima dell’arrivo di Timpani. Alcuni colleghi, dicono, usano sempre più spesso il tempo retribuito o non retribuito per saltare i turni, uno schema che comporta il proprio rischio: farlo più di qualche volta all’anno può portare al licenziamento.
Il divario tra la narrazione ufficiale e l’esperienza riportata
La posizione di HCA è che siano i leader infermieristici, e non Timpani, a prendere le decisioni finali sulla programmazione. Un portavoce dell’azienda ha dichiarato che lo strumento non è progettato per ridurre il personale a scapito della cura dei pazienti, e che HCA continua a perfezionare Timpani sulla base del feedback degli infermieri. Il principale dirigente dell’innovazione dell’azienda ha scritto a luglio che lo strumento ha ridotto sostanzialmente le ore che i manager dedicano alla pianificazione, abbassato la dipendenza da costosi infermieri a contratto e migliorato la fidelizzazione. Ha anche notato che oltre il 98% dei turni generati include un mix di livelli di abilità ed esperienza.
Questa narrazione entra in diretta tensione con ciò che descrivono gli infermieri. Il divario non è semplicemente una questione di percezione. Un’ex manager della scienza dei dati di HCA ha intentato una causa a luglio sostenendo di essere stata licenziata per ritorsione dopo aver sollevato preoccupazioni sullo strumento. La sua causa sostiene che HCA abbia regolarmente eliminato i dati utilizzati da Timpani per costruire i turni, cosa che, a suo dire, ha impedito qualsiasi controllo significativo sulle reali prestazioni del sistema e potrebbe aver violato le leggi sanitarie. HCA non aveva risposto formalmente in tribunale al momento della pubblicazione della notizia.
Palantir, dal canto suo, ha descritto il proprio software come uno strumento che presenta le informazioni in modo più utile, e ha sottolineato che i clienti si assumono la responsabilità dei dati, delle politiche e delle decisioni. Un caso separato che coinvolge Rayus Radiology, una grande catena di diagnostica per immagini degli Stati Uniti, aggiunge un altro punto dati: dopo aver introdotto uno strumento di pianificazione anch’esso basato su Palantir Foundry, Rayus ha ricevuto lamentele su errori tra cui dettagli dei pazienti collegati a profili errati e test che non corrispondevano agli ordini dei medici.
Perché questo caso è importante oltre una singola catena ospedaliera
La situazione di Timpani illustra qualcosa che si perde nella maggior parte della copertura sull’IA sul posto di lavoro: la differenza tra ciò per cui un sistema si ottimizza e ciò di cui le persone che lo utilizzano hanno effettivamente bisogno. Il software di pianificazione può essere progettato per ridurre al minimo i costi, diminuire il carico di lavoro dei manager o massimizzare la copertura dei turni. Questi sono obiettivi legittimi. Ma in un ambiente clinico, la qualità di un turno non è solo una metrica operativa. Influisce sul fatto che un paziente in condizioni critiche riceva un’attenzione tempestiva da parte di qualcuno qualificato per fornirla.
Questa è anche una storia di supervisione, o della sua assenza. Quando i manager programmavano i turni manualmente, gli infermieri riferiscono che le modifiche alle loro preferenze venivano comunicate in anticipo e accompagnate da spiegazioni. Timpani opera con quella che gli infermieri descrivono come una revisione umana minima, e il ciclo di feedback tra i risultati dello strumento e la sua progettazione sembra essere stato limitato. L’accusa della causa secondo cui i dati pertinenti sono stati cancellati prima di poter essere analizzati indica un problema più ampio: i sistemi di IA in ambienti ad alto rischio richiedono robusti meccanismi per verificare le proprie prestazioni, e tali meccanismi non sono sempre integrati fin dall’inizio.
Le vendite trimestrali di Palantir sono quasi raddoppiate, raggiungendo quasi 2 miliardi di dollari, guidate in parte da fornitori di servizi sanitari desiderosi di gestire costi crescenti e carenze di personale. La logica commerciale è chiara. La domanda più difficile, che il caso Timpani mette in forte evidenza, è cosa succede quando i guadagni di efficienza a livello di sistema si traducono in condizioni degradate nel punto di cura.
In breve
Timpani è un test del mondo reale su ciò che significa automatizzare un processo umano ad alto rischio. Gli infermieri che sollevano preoccupazioni non si oppongono alla tecnologia in linea di principio. Stanno indicando un fallimento specifico: un sistema che si ottimizza per risultati misurabili producendo al contempo esiti difficili da misurare finché qualcosa non va storto. Nel settore sanitario, questa distinzione non è astratta. È la differenza tra un turno di lavoro e un piano di cura.
Basato su un articolo di Wired.