Le cartelle cliniche vengono spesso trattate come la veridicità oggettiva della salute di un paziente. Un nuovo studio condotto da un’epidemiologa e da una sociologa suggerisce che si tratti di un’illusione confortante, e la cosa assume ancora più importanza ora che gli ospedali stanno sviluppando l’IA basandosi su quei registri. Le ricercatrici, Annemarie G. Hirsch e Jennifer Silva, hanno associato le cartelle cliniche elettroniche a interviste approfondite con 87 donne riguardo a dolore, malattie, lavoro, famiglia, povertà, violenza e rapporti con il sistema sanitario. Il divario tra ciò che le donne hanno detto e ciò che i documenti contenevano è l’aspetto su cui vale la pena soffermarsi.
La distanza tra una vita e una cartella clinica
Cominciamo dai numeri. Cinquantatré delle 87 donne hanno descritto un episodio che ha distrutto la loro fiducia in un sistema sanitario. Solo sette di esse avevano cartelle cliniche che documentavano una qualsiasi forma di sfiducia. Trentadue donne hanno riferito di aver ricevuto una diagnosi errata, eppure l’errore diagnostico è comparso nei registri di appena otto di loro. Trenta donne hanno affermato che i medici le hanno trattate con mancato rispetto, e questo non è apparso da nessuna parte nei loro documenti.
Questi risultati si inseriscono in un’indagine più ampia. Il sondaggio Gallup-Pivotal Women’s Health Survey, pubblicato a settembre, ha rilevato che il 34% delle donne negli Stati Uniti concordava fortemente o in parte sul fatto che un fornitore di cure avesse minimizzato o ignorato i loro sintomi negli ultimi cinque anni. Il trentatré percento ha riferito di aver ricevuto una diagnosi errata o di non essere riuscito a ottenere una diagnosi, rispetto al 21% degli uomini.
Nulla di tutto ciò significa che le cartelle siano falsificate. Significa che sono incomplete in modo sistematico. Un registro cattura ciò che un medico ha chiesto, ciò che ha scelto di annotare e ciò che la paziente si è sentita abbastanza sicura da dire. Ritardi, rifiuti e fiducia danneggiata tendono a rimanere esclusi da tutti e tre questi aspetti.
Ciò che una cartella mostra e ciò che tralascia
Le autrici illustrano la situazione parlando di una donna che chiamano Kate, uno pseudonimo. Per più di un decennio ha convissuto con un dolore pelvico debilitante e i suoi medici hanno ripetutamente collegato i suoi sintomi al suo peso. Le sue note portavano avanti questo presupposto, con frasi che suggerivano la sua incapacità di controllare ciò che mangiava. Dopo un intervento di chirurgia bariatrica e una significativa perdita di peso, il tono delle note è diventato ottimista, arrivando persino a celebrare una mezza maratona. I suoi sintomi sono persistiti, quindi la cartella è cambiata di nuovo, attribuendoli questa volta a fattori mentali.
Il punto di svolta è arrivato quando ha partecipato a una visita insieme al suo nuovo marito. Il medico ha documentato le preoccupazioni dell’uomo riguardo al dolore durante i rapporti sessuali e ha notato che aveva fatto ottime domande. Per la prima volta in dieci anni, i medici hanno effettuato gli esami necessari per diagnosticarle l’endometriosi.
Ecco cosa la cartella ha fatto bene e cosa ha tralasciato. Ha registrato con precisione anni di conversazioni sul peso e sulla salute mentale. Non ha registrato il costo di una malattia non diagnosticata, la frustrazione di non essere creduti o la lenta erosione della fiducia. Nelle parole di Kate, ogni sintomo veniva spiegato con il sovrappeso e nessuno ascoltava ciò che stava dicendo.
Questo è il dettaglio che la maggior parte delle discussioni sull’IA clinica tralascia. Una cartella clinica è una narrazione e le narrazioni portano con sé una determinata prospettiva. Un linguaggio che rafforza uno stereotipo può seguire una paziente da un incontro all’altro, influenzando il modo in cui i medici successivi leggeranno i suoi sintomi e giudicheranno la sua credibilità.
Perché questo diventa un problema legato all’IA
Cliniche e ospedali in tutto il paese stanno adottando i sistemi di IA per la verbalizzazione, i quali trascrivono una conversazione registrata tra medico e paziente producendo una nota clinica. Altri strumenti cercano e sintetizzano i registri per supportare la diagnosi e la pianificazione del trattamento, alcuni con vero successo.
Il problema è semplice: questi sistemi sono validi tanto quanto i dati che leggono. Se i sintomi di una donna vengono filtrati attraverso supposizioni sul suo peso o sulla sua salute mentale, e la vera storia del suo dolore non entra mai nella cartella clinica, un sistema di IA può apprendere quella prospettiva e riprodurla. Il pregiudizio non ha bisogno di essere programmato. Arriva silenziosamente attraverso i dati di addestramento e di input.
Esiste anche uno strato più sottile. Un sistema di trascrizione può catturare solo ciò che viene detto ad alta voce. Se una paziente si trattiene perché teme il giudizio, o avverte la pressione di rimanere piacevole e accondiscendente per essere presa sul serio, l’omissione finisce dritta nella nota. Le autrici sottolineano che questa pressione ricade in modo particolarmente gravoso sulle donne. Una tecnologia di trascrizione migliore non può correggere una conversazione in cui la parte più importante non è mai stata pronunciata.
Di cosa avrebbe bisogno una cartella migliore
Le autrici non sono contrarie all’IA. Sostengono che il suo potenziale nella salute delle donne dipenda da cartelle cliniche che raccontano l’intera storia, e indicano tre condizioni. Gli ambienti sanitari devono essere spazi sicuri in cui le donne possano raccontare le proprie storie. I medici devono ascoltare anche quando un resoconto non corrisponde alle aspettative cliniche. E i medici devono essere in grado di documentare diagnosi ritardate o errate senza timore di subire sanzioni.
Quella terza condizione è di tipo umano e istituzionale, ed è la più difficile. I registri onesti degli errori del passato sono la materia prima per imparare da essi. Se la registrazione di un errore comporta una sanzione, gli errori rimangono invisibili, e gli errori invisibili sono esattamente ciò che un sistema di rilevamento di pattern non può vedere.
Con dati più completi, le autrici suggeriscono che l’IA potrebbe fare di più che replicare i pregiudizi del passato. Potrebbe aiutare a far emergere schemi di diagnosi mancate, ridurre le disparità nelle cure e fare in modo che un numero maggiore di donne venga ascoltato. In questa prospettiva, la tecnologia amplifica le persone presenti nella stanza: può estendere l’attenzione di un medico a migliaia di casi, ma solo se medici e pazienti forniscono prima una storia onesta su cui lavorare.
In breve
Le cartelle cliniche sono narrazioni plasmate da domande cliniche, presupposti e fiducia dei pazienti, motivo per cui 53 donne hanno descritto una fiducia tradita mentre solo 7 cartelle lo hanno registrato. Gli strumenti di IA che leggono questi registri ereditano tutto ciò che manca in essi, inclusa la prospettiva che ha portato ad anni di sintomi liquidati con leggerezza. Il rimedio parte dalle persone: conversazioni più sicure, ascolto genuino e la libertà di documentare gli errori diagnostici. Con un registro più completo, l’IA potrebbe aiutare i medici a individuare le diagnosi mancate e ad ascoltare un maggior numero di donne di cui si prendono cura.
Basato su un articolo di STAT News.