Les dossiers médicaux sont souvent traités comme la vérité objective de l’état de santé d’un patient. Une nouvelle étude menée par une épidémiologiste et une sociologue suggère qu’il s’agit d’une illusion rassurante, et cela compte encore plus maintenant que les hôpitaux développent l’IA par-dessus ces dossiers. Les chercheuses, Annemarie G. Hirsch et Jennifer Silva, ont associé des dossiers médicaux électroniques à des entretiens détaillés avec 87 femmes concernant leur douleur, leur maladie, leur travail, leur famille, la pauvreté, la violence et leurs rencontres avec le système de santé. L’écart entre ce que les femmes ont dit et ce que les dossiers contenaient est le point sur lequel il faut s’arrêter.
La distance entre une vie et un dossier
Commençons par les chiffres. Cinquante-trois des 87 femmes ont décrit une rencontre qui a brisé leur confiance dans un système de santé. Seulement sept d’entre elles avaient des dossiers documentant une quelconque méfiance. Trente-deux femmes ont signalé avoir reçu un mauvais diagnostic, pourtant le mauvais diagnostic n’apparaissait que dans les dossiers de huit d’entre elles. Trente femmes ont déclaré que les cliniciens les avaient traitées sans respect, et cela n’apparaissait nulle part dans leurs dossiers.
Ces conclusions s’ajoutent à une enquête plus vaste. Le sondage Gallup-Pivotal Women’s Health Survey, publié en septembre, a révélé que 34 % des femmes américaines étaient tout à fait ou plutôt d’accord pour dire qu’un prestataire avait minimisé ou rejeté leurs symptômes au cours des cinq dernières années. Trente-trois pour cent ont déclaré avoir reçu un mauvais diagnostic ou n’avoir pas pu obtenir de diagnostic, contre 21 % des hommes.
Rien de tout cela ne signifie que les dossiers sont falsifiés. Cela signifie qu’ils sont incomplets d’une manière systématique. Un dossier capture ce qu’un clinicien a demandé, ce que le clinicien a choisi d’écrire et ce que la patiente s’est sentie assez en sécurité pour dire. Les retards, les rejets et la confiance endommagée ont tendance à échapper aux trois.
Ce qu’un dossier montre et omet
Les auteures illustrent cela avec une femme qu’elles appellent Kate, un pseudonyme. Pendant plus d’une décennie, elle a vécu avec des douleurs pelviennes invalidantes, et ses médecins ont lié à plusieurs reprises ses symptômes à son poids. Ses notes véhiculaient cette hypothèse en avant, avec des lignes suggérant qu’elle ne pouvait pas contrôler ce qu’elle mangeait. Après une chirurgie bariatrique et une perte de poids importante, le ton des notes est devenu optimiste, célébrant même un semi-marathon. Ses symptômes ont persisté, le dossier a donc pivoté à nouveau, les attribuant désormais à des facteurs mentaux.
Le tournant s’est produit lorsqu’elle a assisté à un rendez-vous avec son nouveau mari. Le prestataire a documenté ses préoccupations concernant les rapports sexuels douloureux et a noté qu’il avait de très bonnes questions. Pour la première fois en dix ans, les médecins ont effectué les examens nécessaires pour lui diagnostiquer une endométriose.
Voici ce que le dossier a bien fait et ce qu’il a raté. Il a consigné avec précision des années de conversations sur le poids et la santé mentale. Il n’a pas consigné le coût d’une maladie non diagnostiquée, la frustration de ne pas être crue ou l’érosion lente de la confiance. Selon les mots de Kate, chaque symptôme était expliqué par le surpoids, et personne n’écoutait ce qu’elle disait.
C’est le détail que la plupart des discussions sur l’IA clinique omettent. Un dossier est un narratif, et les narratifs portent un cadrage. Un langage qui renforce un stéréotype peut suivre une patiente d’une rencontre à la suivante, façonnant la façon dont les cliniciens ultérieurs lisent ses symptômes et jugent sa crédibilité.
Pourquoi cela devient un problème d’IA
Les cliniques et les hôpitaux à travers le pays adoptent des scribes d’IA, qui retranscrivent une conversation enregistrée entre le médecin et le patient pour produire une note clinique. D’autres outils recherchent et synthétisent les dossiers pour soutenir le diagnostic et la planification du traitement, certains avec un réel succès.
Le piège est simple : ces systèmes ne valent que par les données qu’ils lisent. Si les symptômes d’une femme sont filtrés à travers des hypothèses sur son poids ou sa santé mentale, et que la véritable histoire de sa douleur n’entre jamais dans le dossier, un système d’IA peut apprendre ce cadrage et le reproduire. Le biais n’a pas besoin d’être programmé. Il arrive discrètement par les données d’entraînement et d’entrée.
Il y a aussi une couche plus subtile. Un scribe qui retranscrit une conversation ne peut capturer que ce qui est dit à voix haute. Si une patiente se retient parce qu’elle craint le jugement, ou ressent la pression de rester agréable et conciliante pour être prise au sérieux, l’omission va directement dans la note. Les auteures soulignent que cette pression pèse particulièrement lourd sur les femmes. Une meilleure technologie de transcription ne peut pas réparer une conversation dans laquelle la partie la plus importante n’a jamais été prononcée.
Ce qu’un meilleur dossier nécessiterait
Les auteures ne s’opposent pas à l’IA. Elles soutiennent que son potentiel pour la santé des femmes dépend de dossiers qui racontent toute l’histoire, et elles nomment trois conditions. Les environnements de soins de santé doivent être des espaces sûrs où les femmes peuvent raconter leur histoire. Les cliniciens doivent écouter même lorsqu’un récit ne correspond pas aux attentes cliniques. Et les cliniciens doivent pouvoir documenter les diagnostics tardifs ou erronés sans peur d’être pénalisés.
Cette troisième condition est humaine et institutionnelle, et c’est la plus difficile. Des dossiers honnêtes sur les erreurs passées constituent la matière première pour en tirer des leçons. Si l’enregistrement d’une erreur comporte une pénalité, les erreurs restent invisibles, et les erreurs invisibles sont exactement ce qu’un système de recherche de motifs ne peut pas voir.
Avec des données plus complètes, les auteures suggèrent que l’IA pourrait faire plus que reproduire les biais du passé. Elle pourrait aider à faire surface des motifs de diagnostics manqués, réduire les disparités dans les soins et s’assurer qu’un plus grand nombre de femmes sont entendues. Dans ce cadre, la technologie amplifie les personnes présentes dans la pièce : elle peut étendre l’attention d’un clinicien à travers des milliers de cas, mais seulement si les cliniciens et les patients lui donnent d’abord une histoire honnête avec laquelle travailler.
En bref
Les dossiers médicaux sont des narratifs façonnés par des questions cliniques, des hypothèses et la confiance des patients, c’est pourquoi 53 femmes ont décrit une rupture de confiance alors que seulement 7 dossiers l’ont enregistrée. Les outils d’IA qui lisent ces dossiers héritent de tout ce qui y manque, y compris le cadrage qui a conduit à des années de symptômes rejetés. Le remède commence par les gens : des conversations plus sûres, une écoute authentique et la liberté de documenter les erreurs de diagnostic. Avec un dossier plus complet, l’IA pourrait aider les cliniciens à repérer les diagnostics manqués et à entendre un plus grand nombre de femmes qu’ils servent.
D’après un reportage de STAT News.