Les conseillers en situation de crise font face à l’une des décisions les plus difficiles en matière de santé mentale, identifier en temps réel quelle personne qui appelle se trouve en situation de risque imminent de suicide. Le langage est souvent le seul signal disponible. Un outil développé par des chercheurs du McGovern Institute for Brain Research du MIT est conçu pour rendre ce signal lisible à grande échelle, en analysant systématiquement les conversations de crise à la recherche de mots et d’expressions liés à des facteurs de risque de suicide reconnus.
Comment un lexique devient une évaluation des risques
L’outil a été conçu par Daniel Low, ancien étudiant diplômé au sein du Senseable Intelligence Group de Satra Ghosh, chercheur scientifique senior, qui est aujourd’hui chercheur scientifique au Child Mind Institute où il dirige son laboratoire AI, Risk, and Contemplative Science Lab, ainsi que chercheur invité à l’Université Harvard. Le cœur du système est un lexique personnalisé, une liste structurée d’environ 60 mots ou expressions pour chacun des 49 facteurs de risque de suicide reconnus. Ces facteurs de risque couvrent des pathologies psychiatriques telles que la dépression, le trouble de la personnalité limite et le trouble de stress post-traumatique, ainsi que des facteurs de stress sociaux et environnementaux, notamment la pauvreté, l’incarcération, la discrimination et la solitude.
La création du lexique n’a pas été un processus purement automatisé. L’équipe a utilisé un LLM pour générer une liste préliminaire de termes pertinents, puis l’a examinée et affinée manuellement, chaque entrée ayant été confirmée par des cliniciens experts. Le résultat est un vocabulaire qui relie le langage de tous les jours à des catégories cliniques, permettant à un modèle de machine learning de parcourir une conversation textuelle et d’estimer où une personne se situe sur une échelle de risque.
Ce modèle a été entraîné et validé sur un ensemble de données substantiel, soit environ 16 000 conversations anonymisées provenant de Crisis Text Line, une organisation mondiale à but non lucratif qui fournit un soutien en santé mentale textuel, gratuit, confidentiel et assuré 24 heures sur 24. Crisis Text Line a fourni une formation spécialisée et un accès contrôlé à cet ensemble de données restreint. Chaque conversation avait déjà été évaluée et regroupée dans l’une des trois catégories suivantes, non suicidaire, idées suicidaires sans risque imminent, et risque imminent. Le groupe à risque imminent, défini comme des personnes ayant un plan de suicide ou l’intention de mourir dans les 48 heures, constituait la cible principale. Les conclusions ont été publiées dans le Journal of Psychopathology and Clinical Science.
Ce que les données ont révélé sur le risque
Les résultats ont confirmé certaines intuitions cliniques et en ont complexifié d’autres. La dépression est largement comprise comme un facteur de risque d’idées suicidaires, mais le modèle a constaté que les mentions de moyens létaux et de consommation de substances étaient plus fortement associées au groupe à haut risque que les expressions de humeur dépressive ou de fatigue. Les références à des moyens précis, tels que “coupure” ou “pilules”, ont été fortement pondérées par le modèle. Les expressions actives d’idées suicidaires et d’automutilation se sont également révélées de forts prédicteurs. L’anxiété, le SSPT et la détresse émotionnelle sont apparus comme des prédicteurs intermédiaires.
Cela compte parce que l’attention se déplace d’un sentiment général de détresse vers des signaux comportementaux et situationnels précis. Une personne qui mentionne un sentiment de désespoir contribue à un score de risque, mais une personne qui mentionne une méthode y contribue beaucoup plus. Le modèle rend cette hiérarchie explicite et vérifiable, plutôt que de produire un score de risque opaque, il signale les mots et expressions spécifiques qui ont guidé son évaluation, de sorte qu’un conseiller humain peut voir exactement ce qui a déclenché l’alerte et réagir en conséquence.
Cette interprétabilité n’est pas accessoire. C’est un choix de conception délibéré. Le modèle est décrit par ses créateurs comme léger, capable de fonctionner sur un ordinateur personnel sans l’infrastructure informatique requise par les grands modèles de langage. Cela réduit les coûts et, point crucial, limite l’exposition de la vie privée. Les chercheurs notent qu’ils exécutent souvent le modèle basé sur le lexique en parallèle avec des approches de LLM, utilisant le système le plus simple pour garantir que certains termes à haut risque soient toujours signalés.
Pourquoi cette approche annonce quelque chose de plus vaste
Voici ce que la plupart des reportages sur l’IA en santé mentale ont tendance à manquer, la valeur de cet outil n’est pas qu’il remplace le jugement clinique. Ghosh est explicite sur ce point, affirmant qu’avoir un humain dans la boucle sera crucial pendant longtemps compte tenu de la complexité du domaine. Le rôle de l’outil est de gérer le volume et la constance que l’attention humaine seule ne peut garantir, en faisant surface à des milliers de conversations pour que les conseillers puissent concentrer leur jugement là où il est le plus nécessaire.
La recherche indique également un changement méthodologique dans la façon dont le risque suicidaire est étudié. Les enquêtes épidémiologiques traditionnelles demandent aux gens de se souvenir de leurs symptômes après qu’une crise est passée. Les données textuelles de crise capturent le langage au moment même où la crise se déroule. Cette différence de timing modifie ce qu’il est possible d’apprendre. Le lexique est déjà appliqué à d’autres sources textuelles, des réseaux sociaux aux dossiers médicaux électroniques, pour explorer comment les signaux de risque apparaissent selon les contextes.
Ghosh et Low partagent à la fois le lexique du risque suicidaire et le paquet logiciel utilisé pour le construire, afin que les chercheurs puissent concevoir des outils similaires pour d’autres troubles de santé mentale. L’infrastructure, et pas seulement le résultat, est mise à disposition.
En bref
Une équipe de recherche du McGovern Institute du MIT a construit un outil textuel qui analyse les conversations de crise à la recherche d’un langage lié à 49 facteurs de risque de suicide, entraîné sur environ 16 000 conversations réelles provenant de Crisis Text Line. L’outil a constaté que les mentions de moyens létaux et de consommation de substances sont de meilleurs prédicteurs de risque imminent que la seule dépression. Il est délibérément simple, interprétable et conçu pour soutenir les conseillers humains plutôt que de remplacer leur jugement. Le lexique et le logiciel permettant de le construire sont partagés ouvertement, avec des applications potentielles s’étendant bien au-delà des lignes de crise.
D’après un reportage de MIT News AI.