La plupart des gens apprennent la RCP sur un mannequin. Ce mannequin, dans la plupart des cas, a un torse plat. Une étude de 2024 portant sur 20 modèles de formation à la RCP vendus dans le monde a révélé que les trois quarts étaient décrits comme masculins ou n’avaient pas de sexe spécifié. Un seul proposait un sur-torse avec des seins. Ce n’est pas un détail mineur concernant le matériel de formation. C’est le symptôme visible d’un problème structurel beaucoup plus profond, un problème qui menace désormais d’être encodé de manière permanente dans l’IA de la santé.
Le fossé qui commence avant l’algorithme
Les conséquences de la sous-représentation dans la formation médicale sont mesurables. Une étude américaine portant sur 19 331 arrêts cardiaques extra-hospitaliers a révélé que 39 % des femmes qui s’effondraient en public ont reçu une RCP de la part d’un témoin, contre 45 % des hommes. Cet écart de six points de pourcentage reflète peut-être en partie une hésitation ancrée dans le manque de familiarité, car les personnes formées sur des maniquins de forme masculine peuvent se sentir moins confiantes lorsqu’elles pratiquent la RCP sur un corps féminin. Le timing compte énormément. Une autre étude américaine a révélé que les personnes ayant reçu une RCP de la part d’un témoin quatre à cinq minutes après un arrêt cardiaque constaté avaient des chances de survie à la sortie de l’hôpital inférieures de 27 % par rapport à celles l’ayant reçue dans la minute. En Angleterre, moins d’un patient sur 12 pour lequel les services ambulanciers ont tenté une réanimation a survécu 30 jours, selon des chiffres publiés en 2024.
Le problème du mannequin peut être résolu avec un meilleur équipement. Le problème le plus profond est ce qui se produit lorsque ce même biais historique pénètre les données qui entraînent les systèmes d’IA.
Comment les dossiers biaisés deviennent des algorithmes biaisés
L’IA de la santé apprend en trouvant des modèles dans les dossiers médicaux. Le problème est que les dossiers médicaux ne reflètent pas seulement la biologie. Ils reflètent des décisions cliniques, et ces décisions ont historiquement été façonnées par des hypothèses sur le sexe et le genre.
Une étude expérimentale menée auprès d’étudiants en médecine et de résidents illustre clairement le mécanisme. Lorsque des symptômes de coronaropathie étaient présentés en même temps que du stress psychologique, les femmes ont reçu moins de diagnostics de coronaropathie et moins d’orientations en cardiologie que les hommes. Leurs symptômes étaient plus susceptibles d’être interprétés comme psychogènes. Un système d’IA entraîné sur des dossiers façonnés par ces décisions ne saurait pas qu’un biais est présent. Il se contenterait d’apprendre le modèle et de le reproduire.
Ce n’est pas un risque hypothétique. Des examens de l’IA en médecine ont signalé que les ensembles de données déséquilibrés produisent des performances inégales. L’évaluation de cette inéquité est elle-même difficile, car un examen réalisé en 2024 sur 692 dispositifs médicaux alimentés par l’IA et approuvés par la US Food and Drug Administration a révélé que les informations démographiques et les détails des études de performance étaient souvent absents des documents publics.
Le problème des données est profond. Les femmes ont été constamment sous-représentées dans la recherche médicale pendant des décennies. À la suite de la tragédie de la thalidomide de la fin des années 1950 et du début des années 1960, la US Food and Drug Administration a recommandé en 1977 d’exclure des premiers essais cliniques les femmes susceptibles de devenir enceintes. Cette politique n’a été inversée qu’en 1993. Les animaux mâles ont également été privilégiés dans la recherche en laboratoire, et de nombreuses études n’ont pas rapporté le sexe des cellules utilisées dans les expériences.
Les effets sur le traitement sont documentés. Les femmes éliminent le somnifère zolpidem plus lentement que les hommes, et en 2013, les autorités de régulation ont recommandé de diviser par deux la dose de départ pour les femmes. Une analyse réalisée en 2020 a révélé que les femmes subissaient des effets indésirables des médicaments près de deux fois plus souvent que les hommes, les différences dans la façon dont les médicaments se déplacent dans le corps expliquant bon nombre d’entre eux.
Anciennes hypothèses, nouvelle technologie
La représentation dans la recherche médicale s’est améliorée. Les lignes directrices Sex and Gender Equity in Research de 2016 encouragent les chercheurs à prendre en compte et à déclarer le sexe et le genre. Un examen de 574 articles réalisé en 2026 a révélé que 61 % d’entre eux incluaient les deux sexes. Pourtant, seulement 44 % de ces articles ont analysé les résultats par sexe. L’inclusion sans analyse laisse intact le fossé des connaissances sous-jacent.
La distinction entre le sexe biologique et le genre ajoute une autre couche de complexité. La biologie liée au sexe peut influencer la façon dont les médicaments sont métabolisés. Les expériences liées au genre peuvent affecter l’accès aux soins de santé et la façon dont les symptômes sont interprétés. De nombreuses bases de données sur la santé fusionnent les deux en une seule catégorie binaire, ce que limite ce que les chercheurs peuvent réellement conclure à partir des données.
La présentation des symptômes illustre pourquoi la précision est importante. Une analyse portant sur plus d’un million de personnes souffrant de syndromes coronariens aigus a révélé que 74 % des femmes et 79 % des hommes ressentaient des douleurs thoraciques, mais que les femmes avaient une probabilité plus élevée de signaler des symptômes supplémentaires, notamment des douleurs au cou ou à la mâchoire, de la fatigue et essoufflement. Une étude australienne portant sur plus de 202 000 personnes admises pour un accident vasculaire cérébral a révélé que, parmi celles de moins de 70 ans arrivées en ambulance, les femmes étaient moins susceptibles que les hommes d’être évaluées comme ayant un accident vasculaire cérébral par les paramédicaux et moins susceptibles d’être prises en charge selon le protocole pré-hospitalier de l’accident vasculaire cérébral.
Voici ce que la plupart des reportages sur l’IA de la santé oublient : le problème n’est pas que les systèmes d’IA sont mal conçus. Le problème est qu’ils sont entraînés sur des dossiers qui ont été produits dans des conditions de sous-représentation systématique. Un algorithme techniquement solide appliqué à des données historiquement faussées produira des résultats historiquement faussés. Le biais ne disparaît pas parce que la technologie est nouvelle.
Une étude portant sur 6,9 millions de personnes au Danemark a révélé que les femmes étaient plus âgées lors de leur premier diagnostic hospitalier pour la plupart des affections examinées. Ce modèle pourrait refléter une apparition plus tardive de la maladie, un comportement de recours aux soins de santé différent ou un diagnostic plus lent. Démêler ces causes nécessite une conception de recherche rigoureuse. Les systèmes d’IA entraînés sur le modèle brut, sans ce contexte, ne peuvent pas faire la distinction.
En bref
Des décennies de recherche médicale qui ont traité le corps masculin comme la norme ont produit des ensembles de données à partir desquels les systèmes d’IA apprennent désormais. Lorsque ces systèmes identifient des modèles dans les données de santé, ils n’apprennent peut-être pas seulement des choses sur la maladie, mais aussi sur la façon dont les patients ont historiquement été traités différemment en fonction de leur sexe et de leur genre. Améliorer la représentation dans les recherches futures est nécessaire, mais insuffisant. La tâche la plus urgente est de comprendre quels modèles dans les données existantes reflètent la biologie et lesquels reflètent de vieilles hypothèses, avant que ces hypothèses ne soient ancrées dans les outils de diagnostic et de traitement de la prochaine génération.
D’après un reportage de The Conversation AI.