Krisenberater stehen vor einer der schwierigsten Entscheidungen in der psychischen Gesundheit: in Echtzeit zu erkennen, welche hilfesuchende Person unmittelbar suizidgefährdet ist. Sprache ist oft das einzige verfügbare Signal. Ein Tool, das von Forschern am McGovern Institute for Brain Research des MIT entwickelt wurde, soll dieses Signal in großem Maßstab lesbar machen, indem es Krisengespräche systematisch nach Wörtern und Phrasen durchsucht, die mit bekannten Suizidrisikofaktoren zusammenhängen.
Wie ein Lexikon zu einer Risikobewertung wird
Das Tool wurde von Daniel Low entwickelt, einem ehemaligen Doktoranden in der Senseable Intelligence Group des leitenden Forschungswissenschaftlers Satra Ghosh, der heute Forschungswissenschaftler am Child Mind Institute ist und dort das AI, Risk, and Contemplative Science Lab leitet, sowie als Gastwissenschaftler an der Harvard University tätig ist. Das Herzstück des Systems ist ein maßgeschneidertes Lexikon: eine strukturierte Liste von etwa 60 Wörtern oder Phrasen für jeden von 49 anerkannten Suizidrisikofaktoren. Diese Risikofaktoren umfassen psychiatrische Erkrankungen wie Depressionen, Borderline-Persönlichkeitsstörungen und posttraumatische Belastungsstörungen sowie soziale und umweltbedingte Stressfaktoren wie Armut, Inhaftierung, Diskriminierung und Einsamkeit.
Der Aufbau des Lexikons war kein rein automatisierter Prozess. Das Team verwendete ein Large Language Model, um eine vorläufige Liste relevanter Begriffe zu erstellen, überprüfte und verfeinerte diese dann manuell, wobei jeder Eintrag von erfahrenen Klinikern bestätigt wurde. Das Ergebnis ist ein Vokabular, das Alltagssprache mit klinischen Kategorien verknüpft, wodurch ein Machine-Learning-Modell ein Textgespräch durchsuchen und einschätzen kann, wo eine Person auf einem Risikospektrum einzuordnen ist.
Dieses Modell wurde anhand eines umfangreichen Datensatzes trainiert und validiert: etwa 16.000 anonymisierten Gesprächen von Crisis Text Line, einer globalen gemeinnützigen Organisation, die kostenlose, rund um die Uhr verfügbare und vertrauliche textbasierte Unterstützung für die psychische Gesundheit anbietet. Crisis Text Line stellte ein spezielles Training und einen kontrollierten Zugriff auf diesen eingeschränkten Datensatz zur Verfügung. Jedes Gespräch war bereits bewertet und in eine von drei Kategorien eingeteilt worden: nicht suizidal, Suizidgedanken ohne unmittelbares Risiko und unmittelbares Risiko. Die Gruppe mit unmittelbarem Risiko, definiert als Personen mit einem Suizidplan oder der Absicht zu sterben innerhalb der nächsten 48 Stunden, stand im Mittelpunkt. Die Ergebnisse wurden im Journal of Psychopathology and Clinical Science veröffentlicht.
Was die Daten über das Risiko verrieten
Die Ergebnisse bestätigten einige klinische Intuitionen und verkomplizierten andere. Depressionen gelten allgemein als Risikofaktor für Suizidgedanken, aber das Modell ergab, dass Erwähnungen von tödlichen Mitteln und Drogenkonsum stärker mit der Hochrisikogruppe assoziiert waren als Äußerungen über depressive Verstimmungen oder Erschöpfung. Verweise auf spezifische Mittel wie „Schnitt“ oder „Pillen“ wurden vom Modell stark gewichtet. Aktive Äußerungen von Suizidgedanken und Selbstverletzung erwiesen sich ebenfalls als starke Prädiktoren. Angstzustände, PTBS und emotionaler Schmerz erwiesen sich als mittelschwere Prädiktoren.
Das ist wichtig, weil es die Aufmerksamkeit von einem allgemeinen Gefühl der Belastung auf spezifische Verhaltens- und Situationseignale lenkt. Eine Person, die Hoffnungslosigkeit erwähnt, trägt zu einem Risikoschmerz bei, aber eine Person, die eine Methode erwähnt, trägt viel mehr bei. Das Modell macht diese Hierarchie explizit und überprüfbar: Anstatt einen Black-Box-Risikoschmerz zu erzeugen, markiert es die spezifischen Wörter und Phrasen, die seine Bewertung angetrieben haben, sodass ein menschlicher Berater genau sehen kann, was den Alarm ausgelöst hat, und entsprechend reagieren kann.
Diese Interpretierbarkeit ist kein Zufall. Sie ist eine bewusste Designentscheidung. Das Modell wird von seinen Schöpfern als „leichtgewichtiger“ beschrieben, der auf einem Personal Computer laufen kann, ohne die Recheninfrastruktur, die von Large Language Models benötigt wird. Dies reduziert die Kosten und schränkt vor allem die Privatsphäre ein. Die Forscher weisen darauf hin, dass sie das lexikonbasierte Modell häufig parallel zu Ansätzen von Large Language Models ausführen, wobei das einfachere System sicherstellt, dass bestimmte Hochrisikobegriffe immer markiert werden.
Warum dieser Ansatz auf etwas Größeres hindeutet
Hier ist, was die meiste Berichterstattung über KI im Bereich der psychischen Gesundheit tendenziell übersieht: Der Wert dieses Tools liegt nicht darin, dass es das klinische Urteil ersetzt. Ghosh äußert sich zu diesem Punkt sehr deutlich und erklärt, dass angesichts der Komplexität des Bereichs ein Mensch in der Schleife für lange Zeit entscheidend sein wird. Die Aufgabe des Tools besteht darin, das Volumen und die Konsistenz zu bewältigen, die menschliche Aufmerksamkeit allein nicht garantieren kann, und Muster über tausende von Gesprächen hinweg sichtbar zu machen, damit Berater ihr Urteil dort einsetzen können, wo es am meisten gebraucht wird.
Die Forschung weist auch auf einen methodischen Wandel hin, wie das Suizidrisiko untersucht wird. Herkömmliche epidemiologische Umfragen bitten Menschen, sich nach einer Krise an ihre Symptome zu erinnern. Krisentextdaten erfassen die Sprache, während sich die Krise entfaltet. Dieser zeitliche Unterschied verändert das, was gelernt werden kann. Das Lexikon wird bereits auf andere Textquellen angewendet, von sozialen Medien bis hin zu elektronischen Gesundheitsakten, um zu untersuchen, wie Risikosignale in verschiedenen Kontexten auftreten.
Ghosh und Low teilen sowohl das Suizidrisikolexikon als auch das Softwarepaket, mit dem es erstellt wurde, damit Forscher ähnliche Tools für andere psychische Gesundheitsprobleme entwickeln können. Die Infrastruktur, nicht nur das Ergebnis, wird zur Verfügung gestellt.
Kurz gefasst
Ein Forschungsteam des McGovern Institute des MIT hat ein textbasiertes Tool entwickelt, das Krisengespräche nach Sprache durchsucht, die mit 49 Suizidrisikofaktoren zusammenhängt, trainiert an etwa 16.000 echten Gesprächen von Crisis Text Line. Das Tool ergab, dass Erwähnungen von tödlichen Mitteln und Drogenkonsum stärkere Prädiktoren für ein unmittelbares Risiko sind als Depressionen allein. Es ist bewusst einfach, interpretierbar und darauf ausgelegt, menschliche Berater zu unterstützen, anstatt deren Urteil zu ersetzen. Das Lexikon und die Software zu seiner Erstellung werden offen geteilt, wobei potenzielle Anwendungen weit über Krisentelefone hinausgehen.
Basierend auf Berichten von MIT News AI.