La maggior parte delle persone impara la rianimazione cardiopolmonare su un manichino. Nella maggior parte dei casi, quel manichino ha il torace piatto. Uno studio del 2024 che ha esaminato 20 modelli di addestramento alla rianimazione venduti in tutto il mondo ha scoperto che tre quarti di essi erano descritti come maschili o non specificavano il sesso. Solo uno offriva una copertura mammaria. Questo non è un dettaglio secondario riguardante le attrezzature di addestramento. È il sintomo visibile di un problema strutturale molto più profondo, che ora rischia di essere codificato in modo permanente nell’IA sanitaria.
Il divario che inizia prima dell’algoritmo
Le conseguenze della sottorappresentazione nell’addestramento medico sono misurabili. Uno studio statunitense condotto su 19.331 arresti cardiaci extraospedalieri ha scoperto che il 39% delle donne collassate in pubblico ha ricevuto la rianimazione cardiopolmonare da parte di un astante, rispetto al 45% degli uomini. Quel divario di sei punti percentuali potrebbe riflettere in parte un’esitazione radicata nella scarsa familiarità: le persone addestrate su manichini dalle forme maschili potrebbero sentirsi meno sicure nell’eseguire la rianimazione su un corpo femminile. Tempistiche e ritardi contano enormemente. Uno studio statunitense separato ha scoperto che le persone che hanno ricevuto la rianimazione da un astante quattro o cinque minuti dopo un arresto cardiaco assistito avevano probabilità inferiori del 27% di sopravvivere fino alle dimissioni ospedaliere rispetto a quelle che l’avevano ricevuta entro un minuto. In Inghilterra, meno di un paziente su 12 per il quale i servizi di ambulanza hanno tentato la rianimazione è sopravvissuto per 30 giorni, secondo i dati riportati nel 2024.
Il problema del manichino si può risolvere con attrezzature migliori. Il problema più profondo è ciò che accade quando lo stesso pregiudizio storico entra nei dati che addestrano i sistemi di IA.
Come i registri distorti diventano algoritmi distorti
L’IA sanitaria impara trovando schemi nei registri medici. Il problema è che i registri medici non riflettono solo la biologia. Riflettono le decisioni cliniche, e tali decisioni sono state storicamente modellate da presupposti legati al sesso e al genere.
Uno studio sperimentale condotto su studenti di medicina e specializzandi illustra chiaramente il meccanismo. Quando i sintomi della cardiopatia coronarica venivano presentati insieme a stress psicologico, le donne ricevevano meno diagnosi di cardiopatia coronarica e meno invii al cardiologo rispetto agli uomini. I loro sintomi avevano maggiori probabilità di essere interpretati come di origine psicogena. Un sistema di IA addestrato su registri modellati da quelle decisioni non saprebbe che è presente un pregiudizio. Imparerebbe semplicemente lo schema e lo riprodurrebbe.
Questo non è un rischio ipotetico. Le revisioni sull’IA in medicina hanno segnalato che i set di dati non bilanciati producono prestazioni irregolari. Valutare tale irregolarità è di per sé difficile: una revisione del 2024 condotta su 692 dispositivi medici abilitati all’IA e approvati dalla Food and Drug Administration statunitense ha scoperto che le informazioni demografiche e i dettagli sugli studi delle prestazioni spesso mancavano nei documenti pubblici.
Il problema dei dati è profondo. Le femmine sono state costantemente sottorappresentate nella ricerca medica per decenni. A seguito della tragedia della talidomide tra la fine degli anni cinquanta e l’inizio degli anni sessanta, nel 1977 la Food and Drug Administration statunitense raccomandò di escludere dai primi test sui farmaci le donne che potevano diventare pregnant. Tale politica non fu invertita fino al 1993. Anche gli animali maschi sono stati favoriti nella ricerca di laboratorio e molti studi non hanno riportato il sesso delle cellule utilizzate negli esperimenti.
Gli effetti sul trattamento sono documentati. Le donne eliminano il farmaco per il sonno zolpidem più lentamente rispetto agli uomini e nel 2013 le autorità di regolamentazione hanno raccomandato di dimezzare la dose iniziale per le donne. Un’analisi del 2020 ha scoperto che le donne hanno sperimentato reazioni avverse ai farmaci quasi il doppio delle volte rispetto agli uomini, con differenze nel modo in cui i farmaci si muovono attraverso il corpo che ne spiegano molte.
Vecchi presupposti, nuova tecnologia
La rappresentazione nella ricerca medica è migliorata. Le linee guida del 2016 su sesso ed equità di genere nella ricerca incoraggiano i ricercatori a considerare e riportare sesso e genere. Una revisione del 2026 condotta su 574 articoli ha scoperto che il 61% includeva entrambi i sessi. Tuttavia, solo il 44% di quegli articoli ha analizzato i risultati per sesso. L’inclusione senza analisi lascia intatto il divario di conoscenza di sottofondo.
La distinzione tra sesso biologico e genere aggiunge un ulteriore livello di complessità. La biologia correlata al sesso può influenzare il modo in cui i farmaci vengono metabolizzati. Le esperienze di genere possono influenzare l’accesso all’assistenza sanitaria e il modo in cui i sintomi vengono interpretati. Molti database sanitari uniscono entrambi in un’unica categoria binaria, limitando ciò che i ricercatori possono effettivamente concludere dai dati.
La presentazione dei sintomi illustra il motivo per cui la precisione è importante. Un’analisi di oltre un milione di persone con sindromi coronariche acute ha scoperto che il 74% delle donne e il 79% degli uomini ha avvertito dolore al torace, ma le donne presentavano probabilità più elevate di segnalare sintomi aggiuntivi tra cui dolore al collo o alla mascella, affaticamento e mancanza di respiro. Uno studio australiano condotto su oltre 202.000 persone ricoverate per ictus ha scoperto che, tra quelle sotto i 70 anni arrivate in ambulanza, le donne avevano meno probabilità rispetto agli uomini di essere valutate come colpite da ictus dai paramedici e meno probabilità di essere gestite secondo il protocollo preospedaliero per l’ictus.
Ecco cosa sfugge alla maggior parte dei servizi giornalistici sull’IA sanitaria: il problema non è che i sistemi di IA sono progettati male. Il problema è che vengono addestrati su registri prodotti in condizioni di sottorappresentazione sistematica. Un algoritmo tecnicamente valido applicato a dati storicamente distorti produrrà risultati storicamente distorti. Il pregiudizio non scompare solo perché la tecnologia è nuova.
Uno studio condotto su 6,9 milioni di persone in Danimarca ha scoperto che le donne erano più anziane al momento della loro prima diagnosi ospedaliera per la maggior parte delle condizioni esaminate. Questo schema potrebbe riflettere una insorgenza più tardiva della malattia, un comportamento di ricerca dell’assistenza sanitaria diverso o una diagnosi più lenta. Districare queste cause richiede una progettazione della ricerca accurata. I sistemi di IA addestrati sullo schema grezzo, senza quel contesto, non possono fare la distinzione.
In breve
Decenni di ricerca medica che hanno trattato il corpo maschile come impostazione predefinita hanno prodotto set di dati da cui i sistemi di IA ora imparano. Quando questi sistemi identificano schemi nei dati sanitari, potrebbero non solo imparare a conoscere le malattie, ma anche il modo in cui i pazienti sono stati storicamente trattati in modo diverso in base al sesso e al genere. Migliorare la rappresentazione nella ricerca futura è necessario ma non sufficiente. Il compito più urgente è comprendere quali schemi nei dati esistenti riflettono la biologia e quali riflettono i vecchi presupposti, prima che tali presupposti vengano incorporati negli strumenti diagnostici e di trattamento della prossima generazione.
Basato su un articolo di The Conversation AI.