Une infirmière en soins intensifs en Floride a demandé 50 équipes de travail spécifiques sur une période de quatre quarts de travail. Plus de la moitié du temps, le logiciel de planification l’a affectée ailleurs, accumulant souvent des journées consécutives d’une manière qu’elle décrit comme mentalement épuisante. Son expérience n’est pas une plainte isolée. Selon des infirmières de l’un des plus grands réseaux hospitaliers des États-Unis, c’est un schéma récurrent.
HCA Healthcare, la plus grande chaîne d’hôpitaux aux États-Unis, a déployé un outil de planification alimenté par l’IA nommé Timpani dans environ 130 de ses 190 établissements depuis 2023. Basé sur Palantir Foundry, une plateforme d’intégration et d’analyse de données développée par Palantir Technologies, Timpani utilise des prévisions algorithmiques des volumes de patients et des besoins en personnel pour générer automatiquement les plannings du personnel infirmier. Le principe est simple, remplacer une planification manuelle chronophage par un logiciel capable d’optimiser de nombreuses variables à la fois. La réalité, selon les infirmières, est nettement plus complexe.
Ce que décrivent réellement les plaintes
Les infirmières qui se sont entretenues avec WIRED ne s’opposent pas simplement à une application peu pratique. Elles affirment que Timpani crée des conditions qui compromettent les soins aux patients. Parmi les préoccupations spécifiques, citons des équipes dotées d’un nombre insuffisant d’infirmières, un mélange inadéquat de personnel expérimenté et débutant, et un problème récurrent le dimanche en particulier. Une infirmière avec dix ans d’expérience au chevet des patients a décrit des équipes où ses quatre collègues étaient des infirmières débutantes, la laissant comme seule clinicienne senior et l’obligeant à retarder les soins pour les patients les plus critiques afin de guider le personnel moins expérimenté dans des cas moins aigus.
Les infirmières signalent également que l’outil ne tient souvent pas compte des préférences exprimées pour les jours de repos, connus en interne sous le nom de “jours rouges”. HCA a reconnu que Timpani accordait aux infirmières 1 pour cent de leurs jours de repos demandés. Ce chiffre peut sembler faible, mais les infirmières affirment qu’il représente un changement significatif, car se voir attribuer un travail un jour rouge était auparavant considéré comme pratiquement inédit dans certains établissements. Désormais, selon une infirmière du Missouri, pratiquement toutes les infirmières de son site en ont fait l’expérience.
Les effets en aval sont pratiques et cumulatifs. Les infirmières racontent qu’elles passent plus de temps à essayer d’échanger des équipes ou de contester des affectations qu’avant l’arrivée de Timpani. Certains collègues, disent-elles, utilisent de plus en plus de congés payés ou non payés pour sauter des équipes, un comportement qui comporte son propre risque, car le faire plus de quelques fois par an peut mener au licenciement.
Le fossé entre le discours officiel et l’expérience rapportée
La position de HCA est que ce sont les responsables des soins infirmiers, et non Timpani, qui prennent les décisions finales en matière de planification. Un porte-parole de l’entreprise a déclaré que l’outil n’est pas conçu pour réduire les effectifs au détriment des soins aux patients, et que HCA continue d’affiner Timpani sur la base des commentaires du personnel infirmier. Le principal dirigeant en charge de l’innovation de l’entreprise a écrit en juillet que l’outil a considérablement réduit le temps que les gestionnaires consacrent à la planification, diminué la dépendance envers des infirmières contractuelles coûteuses et amélioré la rétention. Il a également noté que plus de 98 pour cent des plannings générés incluent un mélange de niveaux de compétences et d’expérience.
Ce discours est en contradiction directe avec ce que décrivent les infirmières. Le fossé n’est pas seulement une question de perception. Une ancienne responsable de la science des données chez HCA a déposé une plainte en juillet, affirmant avoir été licenciée en représailles pour avoir soulevé des inquiétudes concernant l’outil. Sa plainte soutient que HCA a systématiquement supprimé les données utilisées par Timpani pour établir les plannings, ce qui, selon elle, a empêché tout audit significatif de la performance réelle du système et a pu enfreindre les lois sur la santé. HCA n’avait pas encore répondu formellement devant les tribunaux au moment de la publication.
De son côté, Palantir a décrit son logiciel comme un outil qui présente l’information de manière plus utile, tout en soulignant que les clients portent la responsabilité des données, des politiques et des décisions. Une autre affaire concernant Rayus Radiology, une grande chaîne d’imagerie médicale aux États-Unis, ajoute un élément supplémentaire. Après avoir introduit un outil de planification également basé sur Palantir Foundry, Rayus a reçu des plaintes concernant des erreurs, notamment des détails de patients associés à de mauvais profils et des examens ne correspondant pas aux ordonnances des médecins.
Pourquoi cette affaire dépasse le cadre d’une seule chaîne d’hôpitaux
La situation de Timpani illustre un aspect qui passe souvent inaperçu dans la couverture médiatique de l’IA au travail, à savoir la différence entre ce qu’un système cherche à optimiser et ce dont les utilisateurs ont réellement besoin. Un logiciel de planification peut être conçu pour minimiser les coûts, réduire la charge de travail des gestionnaires ou maximiser la couverture des équipes. Ce sont des objectifs légitimes. Mais dans un environnement clinique, la qualité d’un planning n’est pas seulement une mesure opérationnelle. Elle détermine si un patient dans un état critique reçoit une attention rapide de la part d’une personne qualifiée pour la prodiguer.
C’est aussi une histoire de surveillance, ou d’absence de celle-ci. Lorsque les gestionnaires planifiaient les équipes manuellement, les infirmières rapportent que les dérogations à leurs préférences étaient communiquées à l’avance et accompagnées d’explications. Timpani fonctionne avec ce que les infirmières décrivent comme un examen humain minimal, et la boucle de rétroaction entre les résultats de l’outil et sa conception semble avoir été limitée. L’allégation de la plainte selon laquelle les données pertinentes ont été supprimées avant de pouvoir être analysées met en lumière un problème plus vaste, à savoir que les systèmes d’IA dans les environnements à haut risque nécessitent des mécanismes robustes pour auditer leur propre performance, et ces mécanismes ne sont pas toujours intégrés dès le départ.
Les ventes trimestrielles de Palantir ont presque doublé pour atteindre près de 2 milliards de dollars, portées en partie par des prestataires de santé désireux de gérer la flambée des coûts et les pénuries de personnel. La logique commerciale est claire. La question la plus difficile, que l’affaire Timpani met en relief, est de savoir ce qui se passe lorsque les gains d’efficacité au niveau du système se traduisent par une dégradation des conditions au moment des soins.
En bref
Timpani est un test grandeur nature de ce que signifie l’automatisation d’un processus humain à haut risque. Les infirmières qui expriment des inquiétudes ne s’opposent pas à la technologie par principe. Elles pointent du doigt un échec précis, un système qui optimise des résultats mesurables tout en produisant des conséquences difficiles à mesurer jusqu’à ce qu’un problème survienne. Dans le secteur de la santé, cette distinction n’est pas abstraite. C’est la différence entre un planning et un plan de soins.
D’après un reportage de Wired.