The Brief
Gesundheit und Medizin 5 Min. Lesezeit

53 Frauen beschrieben gebrochenes Vertrauen. Nur 7 Akten hielten es fest.

NAVION

Teilen

Medizinische Akten werden oft als objektive Grundwahrheit über die Gesundheit eines Patienten behandelt. Eine neue Studie einer Epidemiologin und einer Soziologin legt nahe, dass dies eine tröstliche Illusion ist, und das ist umso wichtiger, da Krankenhäuser KI auf Basis dieser Akten aufbauen. Die Forscherinnen Annemarie G. Hirsch und Jennifer Silva verknüpften elektronische Patientenakten mit ausführlichen Interviews mit 87 Frauen über deren Schmerzen, Krankheiten, Arbeit, Familie, Armut, Gewalt und Erfahrungen mit dem Gesundheitssystem. Die Lücke zwischen dem, was die Frauen sagten, und dem, was in den Akten stand, ist der Punkt, bei dem man innehalten sollte.

Die Distanz zwischen einem Leben und einer Akte

Fangen wir mit den Zahlen an. Dreiundfünfzig der 87 Frauen beschrieben eine Begegnung, die ihr Vertrauen in ein Gesundheitssystem erschütterte. Nur bei sieben von ihnen dokumentierten Akten ein solches Misstrauen. Zweiunddreißig Frauen berichteten, dass sie falsch diagnostiziert wurden, doch eine Fehldiagnose tauchte in den Akten von nur acht von ihnen auf. Dreißig Frauen gaben an, dass Kliniker sie respektlos behandelten, und das tauchte nirgendwo in ihren Akten auf.

Diese Ergebnisse stehen im Einklang mit einer umfassenderen Umfrage. Die im September veröffentlichte Gallup-Pivotal Women’s Health Survey ergab, dass 34 Prozent der Frauen in den USA voll und ganz oder teilweise zustimmten, dass ein Behandler ihre Symptome in den letzten fünf Jahren heruntergespielt oder abgetan hatte. 33 Prozent berichteten, dass sie falsch diagnostiziert wurden oder keine Diagnose erhalten konnten, verglichen mit 21 Prozent der Männer.

Nichts davon bedeutet, dass die Akten gefälscht sind. Es bedeutet, dass sie auf eine bestimmte Weise unvollständig sind. Eine Akte erfasst, was ein Behandler fragte, was der Behandler aufzuschreiben beschloss und was die Patientin zu sagen sicher genug fand. Verzögerungen, Abweisungen und beschädigtes Vertrauen neigen dazu, aus allen drei Bereichen herauszufallen.

Was eine Akte zeigt und weglässt

Die Autorinnen veranschaulichen dies anhand einer Frau, die sie Kate nennen, ein Pseudonym. Mehr als ein Jahrzehnt lang lebte sie mit lähmenden Beckenschmerzen, und ihre Ärzte brachten ihre Symptome immer wieder mit ihrem Gewicht in Verbindung. Ihre Notizen trugen diese Annahme weiter, mit Zeilen, die nahelegten, dass sie nicht kontrollieren konnte, was sie aß. Nach einer bariatrischen Operation und einem signifikanten Gewichtsverlust drehte sich der Tonfall der Notizen ins Optimistische und feierte sogar einen Halbmarathon. Ihre Symptome hielten an, also drehte sich die Akte erneut und schrieb sie nun mentalen Faktoren zu.

Der Wendepunkt kam, als sie einen Termin mit ihrem neuen Ehemann wahrnahm. Der Behandler dokumentierte seine Bedenken hinsichtlich schmerzhafter Geschlechtsverkehrs und merkte an, dass er sehr gute Fragen stellte. Zum ersten Mal seit zehn Jahren führten Ärzte die Untersuchungen durch, die nötig waren, um bei ihr Endometriose zu diagnostizieren.

Hier ist, was die Akte richtig gemacht hat und was sie verpasst hat. Sie protokollierte jahrelange Gespräche über Gewicht und psychische Gesundheit genau. Sie protokollierte nicht die Kosten einer nicht diagnostizierten Krankheit, die Frustration, nicht geglaubt zu werden, oder die langsame Erosion des Vertrauens. In Kates Worten wurde jedes Symptom damit erklärt, dass sie übergewichtig war, und niemand hörte zu, was sie sagte.

Dies ist das Detail, das die meisten Diskussionen über klinische KI auslassen. Eine Akte ist ein Narrativ, und Narrative transportieren Rahmung. Sprache, die ein Stereotyp verstärkt, kann einer Patientin von einer Begegnung zur nächsten folgen und prägen, wie spätere Behandler ihre Symptome lesen und ihre Glaubwürdigkeit bewerten.

Warum dies zu einem KI-Problem wird

Kliniken und Krankenhäuser im ganzen Land setzen KI-Scribbles ein, die ein aufgezeichnetes Gespräch zwischen Arzt und Patient transkribieren und eine klinische Notiz erstellen. Andere Werkzeuge durchsuchen und synthetisieren Akten, um Diagnose und Behandlungsplanung zu unterstützen, einige mit echtem Erfolg.

Der Haken ist einfach: Diese Systeme sind nur so gut wie die Daten, die sie lesen. Wenn die Symptome einer Frau durch Annahmen über ihr Gewicht oder ihre psychische Gesundheit gefiltert werden und die wahre Geschichte ihrer Schmerzen niemals in die Akte gelangt, kann ein KI-System diese Rahmung lernen und reproduzieren. Die Verzerrung muss nicht einprogrammiert werden. Sie kommt leise durch die Trainings- und Eingangsdaten.

Es gibt auch eine subtilere Ebene. Ein Scribble, das ein Gespräch transkribiert, kann nur erfassen, was laut ausgesprochen wird. Wenn sich eine Patientin zurückhält, weil sie Angst vor Verurteilung hat, oder Druck spürt, nett und zustimmend zu bleiben, damit sie ernst genommen wird, wandert das Versäumnis direkt in die Notiz. Die Autorinnen weisen darauf hin, dass dieser Druck besonders stark auf Frauen lastet. Eine bessere Transkriptionstechnologie kann ein Gespräch nicht reparieren, in dem der wichtigste Teil nie ausgesprochen wurde.

Was eine bessere Akte erfordern würde

Die Autorinnen argumentieren nicht gegen KI. Sie argumentieren, dass ihr Potenzial in der Frauengesundheit von Akten abhängt, die die ganze Geschichte erzählen, und sie nennen drei Bedingungen. Gesundheitseinrichtungen müssen sichere Räume sein, in denen Frauen ihre Geschichten erzählen können. Behandler müssen zuhören, auch wenn ein Bericht nicht den klinischen Erwartungen entspricht. Und Behandler müssen in der Lage sein, verzögerte oder falsche Diagnosen zu dokumentieren, ohne Angst haben zu müssen, bestraft zu werden.

Diese dritte Bedingung ist eine menschliche und institutionelle und sie ist die schwierigste. Ehrliche Aufzeichnungen vergangener Fehler sind das Rohmaterial, um daraus zu lernen. Wenn das Aufzeichnen eines Fehlers eine Strafe nach sich zieht, bleiben Fehler unsichtbar, und unsichtbare Fehler sind genau das, was ein mustersuchendes System nicht sehen kann.

Mit vollständigeren Daten schlagen die Autorinnen vor, dass KI mehr tun könnte als nur die Verzerrungen der Vergangenheit zu replizieren. Sie könnte dabei helfen, Muster übersehener Diagnosen aufzudecken, Ungleichheiten in der Versorgung zu verringern und sicherzustellen, dass mehr Frauen gehört werden. In diesem Rahmen verstärkt die Technologie die Menschen im Raum: Sie kann die Aufmerksamkeit eines Behandlers über Tausende von Fällen ausdehnen, aber nur, wenn Behandler und Patienten ihr zuerst eine ehrliche Geschichte liefern, mit der sie arbeiten kann.

Kurz gesagt

Medizinische Akten sind Narrative, die durch klinische Fragen, Annahmen und Patientenvertrauen geprägt sind, weshalb 53 Frauen gebrochenes Vertrauen beschrieben, während nur 7 Akten es aufzeichneten. KI-Werkzeuge, die diese Akten lesen, erben alles, was darin fehlt, einschließlich der Rahmung, die zu jahrelangen abgetanen Symptomen führte. Die Abhilfe beginnt bei den Menschen: sicherere Gespräche, echtes Zuhören und die Freiheit, diagnostische Fehler zu dokumentieren. Mit einer vollständigeren Akte könnte KI Behabdlern helfen, übersehene Diagnosen zu erkennen und mehr von den Frauen zu hören, die sie betreuen.

Basierend auf Berichten von STAT News.

Geschrieben von

NAVION