I consulenti delle crisi affrontano una delle decisioni più difficili nell’assistenza alla salute mentale: identificare, in tempo reale, quale persona che cerca aiuto si trovi a rischio imminente di suicidio. Il linguaggio è spesso l’unico segnale disponibile. Uno strumento sviluppato dai ricercatori del McGovern Institute for Brain Research del MIT è progettato per rendere quel segnale leggibile su larga scala, analizzando sistematicamente le conversazioni di crisi alla ricerca di parole e frasi legate a fattori di rischio di suicidio consolidati.
Come un lessico diventa una valutazione del rischio
Lo strumento è stato realizzato da Daniel Low, ex studente di dottorato nel Senseable Intelligence Group della Senior Research Scientist Satra Ghosh, ora ricercatore presso il Child Mind Institute dove dirige il suo AI, Risk, and Contemplative Science Lab, ed è anche visiting scholar presso la Harvard University. Il nucleo del sistema è un lessico personalizzato: un elenco strutturato di circa 60 parole o frasi per ciascuno dei 49 fattori di rischio di suicidio riconosciuti. Tali fattori di rischio abbracciano condizioni psichiatriche come la depressione, il disturbo borderline di personalità e il disturbo post-traumatico da stress, oltre a fattori di stress sociali e ambientali tra cui povertà, carcerazione, discriminazione e solitudine.
La creazione del lessico non è stata un processo puramente automatizzato. Il team ha utilizzato un modello linguistico di grandi dimensioni per generare un elenco preliminare di termini pertinenti, poi lo ha rivisto e perfezionato manualmente, con ogni voce confermata da clinici esperti. Il risultato è un vocabolario che collega il linguaggio quotidiano alle categorie cliniche, rendendo possibile per un modello di apprendimento automatico scansionare una conversazione testuale e stimare dove una persona si collochi su uno spettro di rischio.
Quel modello è stato addestrato e validato su un set di dati sostanziale: circa 16.000 conversazioni anonimizzate di Crisis Text Line, un’organizzazione no-profit globale che fornisce supporto gratuito, attivo 24 ore su 24 e confidenziale basato su messaggi di testo per la salute mentale. Crisis Text Line ha fornito formazione specializzata e accesso controllato a questo set di dati limitato. Ciascuna conversazione era già stata valutata e raggruppata in una delle tre categorie: non suicidaria, ideazione suicidaria senza rischio imminente e rischio imminente. Il gruppo a rischio imminente, definito come individui con un piano per il suicidio o l’intenzione di morire entro le successive 48 ore, è stato il focus principale. I risultati sono stati pubblicati sul Journal of Psychopathology and Clinical Science.
Cosa hanno rivelato i dati sul rischio
I risultati hanno confermato alcune intuizioni cliniche e ne hanno complicate altre. La depressione è ampiamente intesa come un fattore di rischio per l’ideazione suicidaria, ma il modello ha scoperto che le menzioni di mezzi letali e l’uso di sostanze erano più fortemente associati al gruppo a più alto rischio rispetto alle espressioni di umore depresso o stanchezza. I riferimenti a mezzi specifici, come “tagliare” o “pillole”, sono stati pesati in modo rilevante dal modello. Anche le espressioni attive di ideazione suicidaria e autolesionismo sono state forti predittori. Ansia, PTSD e dolore emotivo sono emersi come predittori intermedi.
Questo è importante perché sposta l’attenzione da un senso generale di disagio verso segnali comportamentali e situazionali specifici. Una persona che menziona la disperazione contribuisce a un punteggio di rischio, ma una persona che menziona un metodo contribuisce molto di più. Il modello rende questa gerarchia esplicita e verificabile: anziché produrre un punteggio di rischio da scatola nera, segnala le parole e le frasi specifiche che hanno guidato la sua valutazione, in modo che un consulente umano possa vedere esattamente cosa ha attivato l’avviso e rispondere di conseguenza.
Tale interpretabilità non è casuale. È una scelta di design deliberata. Il modello è descritto dai suoi creatori come “leggero”, in grado di funzionare su un personal computer senza l’infrastruttura di calcolo richiesta dai modelli linguistici di grandi dimensioni. Questo riduce i costi e, cosa fondamentale, limita l’esposizione della privacy. I ricercatori notano che spesso eseguono il modello basato sul lessico in parallelo agli approcci con modelli linguistici di grandi dimensioni, usando il sistema più semplice per garantire che determinati termini ad alto rischio vengano sempre segnalati.
Perché questo approccio segnala qualcosa di più ampio
Ecco cosa la maggior parte della copertura sull’IA nella salute mentale tende a tralasciare: il valore di questo strumento non è che sostituisca il giudizio clinico. Ghosh è esplicita su questo punto, affermando che avere un umano nel processo sarà fondamentale per molto tempo vista la complessità dell’ambito. Il ruolo dello strumento è gestire il volume e la coerenza che l’attenzione umana da sola non può garantire, facendo emergere modelli attraverso migliaia di conversazioni affinché i consulenti possano concentrare il proprio giudizio dove è più necessario.
La ricerca indica anche un cambiamento metodologico nel modo in cui viene studiato il rischio di suicidio. Le tradizionali indagini epidemiologiche chiedono alle persone di ricordare i propri sintomi dopo che una crisi è passata. I dati dei messaggi di crisi catturano il linguaggio mentre la crisi si sviluppa. Quella differenza nei tempi cambia ciò che si può imparare. Il lessico viene già applicato ad altre fonti di testo, dai social media alle cartelle cliniche elettroniche, per esplorare come i segnali di rischio compaiono in contesti diversi.
Ghosh e Low stanno condividendo sia il lessico del rischio di suicidio sia il pacchetto software utilizzato per costruirlo, in modo che i ricercatori possano realizzare strumenti simili per altre condizioni di salute mentale. L’infrastruttura, non solo il risultato, viene resa disponibile.
In breve
Un team di ricerca del McGovern Institute del MIT ha costruito uno strumento basato su testo che scansiona le conversazioni di crisi alla ricerca di linguaggio legato a 49 fattori di rischio di suicidio, addestrato su circa 16.000 conversazioni reali di Crisis Text Line. Lo strumento ha scoperto che le menzioni di mezzi letali e l’uso di sostanze sono predittori più forti di rischio imminente rispetto alla sola depressione. È deliberatamente semplice, interpretabile e progettato per supportare i consulenti umani anziché sostituire il loro giudizio. Il lessico e il software per costruirlo vengono condivisi apertamente, con potenziali applicazioni che si estendono ben oltre le linee di crisi.
Basato su un articolo di MIT News AI.