Los consejeros de crisis se enfrentan a una de las decisiones más difíciles en la atención de la salud mental: identificar, en tiempo real, qué persona que pide ayuda se encuentra en riesgo inminente de suicidio. El lenguaje suele ser la única señal disponible. Una herramienta desarrollada por investigadores del McGovern Institute for Brain Research del MIT está diseñada para hacer que esa señal sea legible a gran escala, mediante el análisis sistemático de las conversaciones de crisis en busca de palabras y frases vinculadas a factores de riesgo de suicidio establecidos.
Cómo un lexicón se convierte en una evaluación de riesgo
La herramienta fue creada por Daniel Low, antiguo estudiante de posgrado en el Senseable Intelligence Group del científico investigador sénior Satra Ghosh, quien ahora es investigador científico en el Child Mind Institute, donde dirige su AI, Risk, and Contemplative Science Lab, y también investigador visitante en la Universidad de Harvard. El núcleo del sistema es un lexicón personalizado: una lista estructurada de aproximadamente 60 palabras o frases para cada uno de los 49 factores de riesgo de suicidio reconocidos. Esos factores de riesgo abarcan afecciones psiquiátricas como la depresión, el trastorno límite de la personalidad y el trastorno de estrés postraumático, así como factores estresantes sociales y ambientales que incluyen la pobreza, el encarcelamiento, la discriminación y la soledad.
Construir el lexicón no fue un proceso puramente automatizado. El equipo utilizó un modelo de lenguaje grande para generar una lista preliminar de términos relevantes, luego la revisó y refinó manualmente, con cada entrada confirmada por médicos expertos. El resultado es un vocabulario que conecta el lenguaje cotidiano con categorías clínicas, lo que hace posible que un modelo de aprendizaje automático analice una conversación de texto y estime dónde se encuentra una persona en un espectro de riesgo.
Ese modelo fue entrenado y validado en un conjunto de datos sustancial: aproximadamente 16,000 conversaciones anonimizadas de Crisis Text Line, una organización sin fines de lucro global que ofrece apoyo de salud mental gratuito, confidencial y basado en texto las 24 horas del día. Crisis Text Line proporcionó capacitación especializada y acceso controlado a este conjunto de datos restringido. Cada conversación ya había sido evaluada y agrupada en una de tres categorías: no suicida, ideación suicida sin riesgo inminente y riesgo inminente. El grupo de riesgo inminente, definido como personas con un plan de suicidio o la intención de morir en las próximas 48 horas, fue el enfoque principal. Los hallazgos se publicaron en la revista Journal of Psychopathology and Clinical Science.
Lo que los datos revelaron sobre el riesgo
Los resultados confirmaron algunas intuiciones clínicas y complicaron otras. Se entiende ampliamente que la depresión es un factor de riesgo para la ideación suicida, pero el modelo descubrió que las menciones de medios letales y el consumo de sustancias estaban más fuertemente asociadas con el grupo de mayor riesgo que las expresiones de estado de ánimo deprimido o fatiga. Las referencias a medios específicos, como “cortar” o “pastillas”, recibieron un gran peso por parte del modelo. Las expresiones activas de ideación suicida y autolesión también fueron fuertes predictores. La ansiedad, el TEPT y el dolor emocional surgieron como predictores intermedios.
Esto importa porque desvía la atención de una sensación general de angustia hacia señales conductuales y situacionales específicas. Una persona que menciona la desesperanza contribuye a una puntuación de riesgo, pero una persona que menciona un método contribuye mucho más. El modelo hace que esa jerarquía sea explícita y verificable: en lugar de producir una puntuación de riesgo de caja negra, señala las palabras y frases específicas que impulsaron su evaluación, para que un consejero humano pueda ver exactamente qué activó la alerta y responder en consecuencia.
Esa interpretabilidad no es casual. Es una decisión de diseño deliberada. Sus creadores describen el modelo como “ligero”, capaz de ejecutarse en una computadora personal sin la infraestructura computacional requerida por los modelos de lenguaje grande. Esto reduce el costo y, de manera crítica, limita la exposición de la privacidad. Los investigadores señalan que a menudo ejecutan el modelo basado en lexicón en paralelo con enfoques de modelos de lenguaje grande, utilizando el sistema más simple para garantizar que ciertos términos de alto riesgo siempre se señalen.
Por qué este enfoque señala algo más amplio
Esto es lo que la mayor parte de la cobertura sobre la IA en la salud mental suele pasar por alto: el valor de esta herramienta no es que reemplace el juicio clínico. Ghosh es explícito en este punto, y afirma que tener a un humano en el ciclo será fundamental durante mucho tiempo dada la complejidad del espacio. El papel de la herramienta es manejar el volumen y la consistencia que la atención humana por sí sola no puede garantizar, haciendo emerger patrones en miles de conversaciones para que los consejeros puedan centrar su juicio donde más se necesita.
La investigación también apunta hacia un cambio metodológico en la forma en que se estudia el riesgo de suicidio. Las encuestas epidemiológicas tradicionales piden a las personas que recuerden sus síntomas después de que ha pasado una crisis. Los datos de texto de crisis capturan el lenguaje a medida que se desarrolla la crisis. Esa diferencia en el tiempo cambia lo que se puede aprender. El lexicón ya se está aplicando a otras fuentes de texto, desde las redes sociales hasta los registros médicos electrónicos, para explorar cómo aparecen las señales de riesgo en diferentes contextos.
Ghosh y Low comparten tanto el lexicón de riesgo de suicidio como el paquete de software utilizado para construirlo, de modo que los investigadores puedan construir herramientas similares para otras afecciones de salud mental. La infraestructura, no solo el resultado, se está poniendo a disposición.
En resumen
Un equipo de investigación del McGovern Institute del MIT construyó una herramienta basada en texto que analiza las conversaciones de crisis en busca de lenguaje vinculado a 49 factores de riesgo de suicidio, entrenada con aproximadamente 16,000 conversaciones reales de Crisis Text Line. La herramienta descubrió que las menciones de medios letales y el consumo de sustancias son predictores de riesgo inminente más fuertes que la depresión por sí sola. Es deliberadamente simple, interpretable y está diseñada para apoyar a los consejeros humanos en lugar de reemplazar su juicio. El lexicón y el software para construirlo se comparten abiertamente, con posibles aplicaciones que se extienden mucho más allá de las líneas de crisis.
Basado en un reportaje de ScienceDaily AI.
Basado en información de MIT News AI.