Un equipo de investigación dirigido por científicos de la Harvard Medical School ha desarrollado modelos de IA capaces de identificar a pacientes con un riesgo elevado de sufrir violencia de pareja utilizando datos ya recopilados en los historiales médicos electrónicos. Los modelos señalaron un riesgo potencial, en promedio, más de tres años antes de que las pacientes se inscribieran en un programa de intervención contra la violencia doméstica en un hospital. El logro técnico es real. Lo que esto significa para los supervivientes es una pregunta más difícil.
Lo que el algoritmo ve realmente
Los modelos se entrenaron con datos de historiales médicos recopilados de forma rutinaria de pacientes de sexo femenino en un único centro médico académico de EE. UU., y luego se validaron en tres cohortes de pacientes adicionales. Los propios investigadores señalaron que se debe realizar una evaluación cuidadosa del rendimiento en la población más amplia de pacientes de sexo femenino antes de cualquier implementación clínica.
Esa advertencia importa. La brecha entre un modelo validado y una herramienta implementada es donde se concentra la mayor parte del peso ético. La IA no observa la violencia. Infiere el riesgo a partir de patrones en los datos médicos, patrones que se correlacionan con la violencia de pareja sin revelarla directamente. La detección y la comprensión no son lo mismo, y la detección y la respuesta tampoco lo son.
El problema de señalar a alguien que no ha hablado
Esto es lo que la mayor parte de la cobertura de este tipo de investigación pasa por alto: para alguien que experimenta violencia de pareja, el silencio a menudo no es pasividad. Es estrategia.
Decidir si revelar el abuso implica una serie de factores que ningún algoritmo puede tener en cuenta por completo. Preocupaciones de seguridad, dependencia financiera de una pareja abusiva, desconfianza en los servicios sociales, miedo a no ser creído y la posibilidad muy real de que la revelación pueda desencadenar procedimientos de retirada de la custodia de los hijos. En algunas situaciones, mantenerse en silencio es la forma en que una persona se protege a sí misma y a sus hijos.
La atención informada sobre el trauma y la violencia, el marco que guía las mejores prácticas en esta área, se basa en los principios de seguridad, elección, colaboración, conexión y desarrollo de capacidades. Esos principios existen precisamente porque los supervivientes necesitan conservar el control sobre sus propias historias. Un sistema que infiere el abuso antes de que una persona haya elegido compartirlo les quita ese control, por muy bienintencionada que sea la tecnología que hay detrás.
Uno de los investigadores involucrados ha afirmado que el objetivo de la herramienta no es presionar a los pacientes para que revelen información, sino ayudar a los clínicos a comunicarse con más compasión y conectar a los pacientes con apoyo. Ese enfoque es importante. También deja abierta una pregunta crítica: ¿qué sucede realmente una vez que se señala a un paciente? ¿Está el clínico capacitado para responder de una manera informada sobre el trauma? ¿Hay servicios apropiados disponibles y accesibles? La investigación aún no responde a esas preguntas.
Por qué la detección no es lo mismo que el cuidado
Hay un segundo riesgo que va en la dirección opuesta. Si los sistemas de salud se vuelven demasiado dependientes de las puntuaciones de riesgo generadas por la IA, la ausencia de una señal podría disuadir a los proveedores de preguntar sobre la violencia por completo. La investigación sobre los sistemas de apoyo a la decisión clínica ya ha identificado este patrón: el sesgo de automatización, la tendencia de los clínicos a deferir a las recomendaciones automatizadas incluso cuando esas recomendaciones son erróneas.
Aplicado a la violencia de pareja, el sesgo de automatización podría significar que un superviviente que no coincide con el perfil de riesgo del modelo tenga menos probabilidades de que le pregunten sobre su experiencia. El algoritmo se convierte en un filtro, y algunas personas se caen por él.
Esto apunta a un problema estructural que la IA no puede resolver por sí sola. Incluso si un modelo identifica correctamente un riesgo elevado, el superviviente seguirá encontrando las mismas brechas en los servicios, la planificación de la seguridad y los recursos que existen hoy en día. Una mejor identificación no produce automáticamente mejores resultados. La infraestructura de respuesta tiene que estar ahí primero.
Una pregunta sobre quién cuenta la historia
La importancia más amplia de esta investigación no trata realmente sobre las tasas de precisión o la validación del modelo. Trata sobre un cambio en la relación entre los pacientes y los sistemas de salud, uno que la IA está acelerando en muchos dominios, pero que conlleva un peso particular aquí.
La violencia de pareja se define, en parte, por la coacción y el control. La capacidad de decidir cuándo, cómo y si se debe hablar de esa experiencia no es un detalle de procedimiento. Para muchos supervivientes, es una de las pocas áreas de autonomía que tienen. Una herramienta que elimina esa elección, incluso en nombre de la intervención temprana, reproduce una dinámica que la atención informada sobre el trauma está diseñada específicamente para interrumpir.
El propio enfoque de los investigadores reconoce esta tensión. Cualquier implementación de detección de riesgos basada en IA, argumentan, debe evaluarse no solo por su precisión predictiva, sino en función de los principios de seguridad, elección, colaboración, conexión y desarrollo de capacidades. Ese es un estándar significativo. También significa que implementar esta tecnología de manera responsable requiere mucho más que un modelo de alto rendimiento.
En resumen
La IA ahora puede identificar el potencial riesgo de violencia de pareja años antes de que los supervivientes elijan revelarlo. La capacidad técnica es real y la intención detrás de ella es mejorar la atención. El riesgo es que la detección temprana, sin la formación clínica adecuada, los protocolos centrados en el superviviente y los servicios accesibles, pueda socavar la misma capacidad de acción que pretende proteger. Detectar un problema y responder bien a él son dos cosas completamente diferentes. La brecha entre ellas es donde comienza el verdadero trabajo.
Basado en información de The Conversation.