Una enfermera de cuidados críticos en Florida solicitó 50 turnos específicos durante cuatro meses. Más de la mitad del tiempo, el software de programación la asignó a otro lugar, a menudo acumulando días consecutivos de maneras que describe como mentalmente agotadoras. Su experiencia no es una queja aislada. Es, según enfermeras de uno de los sistemas hospitalarios más grandes de Estados Unidos, un patrón.
HCA Healthcare, la cadena de hospitales más grande de EE. UU., ha implementado una herramienta de programación impulsada por IA llamada Timpani en aproximadamente 130 de sus 190 ubicaciones desde 2023. Construido sobre Palantir Foundry, una plataforma de integración y análisis de datos desarrollada por Palantir Technologies, Timpani utiliza pronósticos algorítmicos de volúmenes de pacientes y necesidades de personal para generar horarios de enfermería automáticamente. La premisa es sencilla: reemplazar la programación manual que consume tanto tiempo con un software que pueda optimizar muchas variables a la vez. La realidad, dicen las enfermeras, es considerablemente más caótica.
Lo que las quejas describen realmente
Las enfermeras que hablaron con WIRED no se oponen simplemente a una aplicación incómoda. Alegan que Timpani crea condiciones que comprometen el cuidado de los pacientes. Las preocupaciones específicas incluyen turnos con muy pocas enfermeras, una combinación insuficiente de personal experimentado y junior, y un problema recurrente los domingos en particular. Una enfermera con una década de experiencia junto a la cama del paciente describió turnos en los que sus cuatro colegas eran enfermeras juniors, lo que la dejó como la única clínica senior y la obligó a retrasar la atención a los pacientes más críticos para guiar al personal menos experimentado a través de casos de menor gravedad.
Las enfermeras también informan que la herramienta frecuentemente ignora las preferencias expresadas para los días libres, conocidos internamente como “días rojos”. HCA ha reconocido que Timpani programa a las enfermeras para el 1 por ciento de sus días libres solicitados. Esa cifra puede sonar pequeña, pero las enfermeras dicen que representa un cambio significativo: ser asignada para trabajar en un día rojo se describía anteriormente como algo prácticamente inaudito en algunas instalaciones. Ahora, según una enfermera en Misuri, prácticamente todas las enfermeras en su ubicación lo han experimentando.
Los efectos posteriores son prácticos y acumulativos. Las enfermeras describen que pasan más tiempo intentando cambiar turnos o apelar asignaciones que el que pasaban antes de la llegada de Timpani. Algunos colegas, dicen, están utilizando cada vez más tiempo pagado o no pagado para saltarse turnos, un patrón que conlleva su propio riesgo: hacerlo más de unas pocas veces al año puede llevar al despido.
La brecha entre el discurso oficial y la experiencia reportada
La postura de HCA es que los líderes de enfermería, no Timpani, toman las decisiones finales de programación. Un portavoz de la compañía declaró que la herramienta no está diseñada para reducir el personal a expensas del cuidado de los pacientes, y que HCA continúa refinando Timpani basándose en los comentarios de las enfermeras. El principal ejecutivo de innovación de la compañía escribió en julio que la herramienta ha reducido sustancialmente las horas que los gerentes dedican a la programación, ha disminuido la dependencia de costosas enfermeras contratadas y ha mejorado la retención. También señaló que más del 98 por ciento de los horarios generados incluyen una combinación de niveles de habilidad y experiencia.
Ese discurso entra en tensión directa con lo que describen las enfermeras. La brecha no es simplemente una cuestión de percepción. Una exgerente de ciencia de datos de HCA presentó una demanda en julio alegando que fue despedida en represalia por plantear preocupaciones sobre la herramienta. Su demanda afirma que HCA eliminaba rutinariamente los datos que Timpani utiliza para construir los horarios, lo que, según ella, impedía cualquier auditoría significativa de qué tan bien estaba funcionando realmente el sistema y pudo haber violado las leyes de salud. HCA no había respondido formalmente en los tribunales en el momento de la publicación de este informe.
Palantir, por su parte, ha descrito su software como una herramienta que presenta la información de manera más útil, y ha enfatizado que los clientes tienen la responsabilidad de los datos, las políticas y las decisiones. Un caso separado relacionado con Rayus Radiology, una gran cadena de imágenes de EE. UU., añade otro punto de datos: tras introducir una herramienta de programación también construida sobre Palantir Foundry, Rayus recibió quejas sobre errores que incluían detalles de pacientes vinculados a perfiles incorrectos y pruebas que no coincidían con las órdenes de los médicos.
Por qué este caso importa más allá de una cadena de hospitales
La situación de Timpani ilustra algo que se pierde en la mayor parte de la cobertura sobre la IA en el lugar de trabajo: la diferencia entre lo que un sistema optimiza y lo que las personas que lo usan realmente necesitan. El software de programación se puede diseñar para minimizar costos, reducir la carga de trabajo del gerente o maximizar la cobertura de turnos. Esos son objetivos legítimos. Pero en un entorno clínico, la calidad de un horario no es solo una métrica operativa. Afecta si un paciente en condición crítica recibe atención oportuna de alguien calificado para proporcionarla.
Esta es también una historia sobre la supervisión, o la ausencia de ella. Cuando los gerentes programaban los turnos manualmente, las enfermeras informan que las anulaciones de sus preferencias se comunicaban con anticipación y venían con una explicación. Timpani opera con lo que las enfermeras describen como una revisión humana mínima, y el circuito de retroalimentación entre los resultados de la herramienta y su diseño parece haber sido limitado. La acusación de la demanda de que los datos relevantes fueron eliminados antes de que pudieran ser analizados apunta a un problema más amplio: los sistemas de IA en entornos de alto riesgo requieren mecanismos sólidos para auditar su propio rendimiento, y esos mecanismos no siempre están integrados desde el principio.
Las ventas trimestrales de Palantir casi se han duplicado hasta alcanzar casi los 2.000 millones de dólares, impulsadas en parte por proveedores de salud ansiosos por gestionar los crecientes costos y la escasez de personal. La lógica comercial es clara. La pregunta más difícil, que el caso Timpani pone de relieve, es qué sucede cuando las ganancias de eficiencia a nivel de sistema se traducen en condiciones degradadas en el punto de atención.
En resumen
Timpani es una prueba en el mundo real de lo que significa automatizar un proceso humano de alto riesgo. Las enfermeras que plantean preocupaciones no se oponen a la tecnología en principio. Están señalando un fallo específico: un sistema que optimiza para resultados medibles mientras produce consecuencias que son difíciles de medir hasta que algo sale mal. En la salud, esa distinción no es abstracta. Es la diferencia entre un horario y un plan de atención.
Basado en información de Wired.