Uma equipa de investigação liderada por cientistas da Harvard Medical School desenvolveu modelos de IA capazes de identificar doentes com risco elevado de violência por parte de parceiro íntimo, utilizando dados já recolhidos nos registos de saúde eletrónicos. Os modelos assinalaram o risco potencial, em média, mais de três anos antes de os doentes se inscreverem num programa de intervenção contra o abuso doméstico baseado num hospital. A conquista técnica é real. O que isto significa para os sobreviventes é uma questão mais difícil.
O que o algoritmo vê realmente
Os modelos foram treinados com dados de registos de saúde recolhidos rotineiramente de doentes do sexo feminino num único centro de saúde académico dos Estados Unidos, sendo depois validados em três coortes de doentes adicionais. Os próprios investigadores notaram que deve ser realizada uma avaliação cuidadosa do desempenho na população mais ampla de doentes do sexo feminino antes de qualquer implementação clínica.
Essa ressalva importa. O fosso entre um modelo validado e uma ferramenta implementada é onde reside a maior parte do peso ético. A IA não observa a violência. Infere o risco a partir de padrões em dados médicos, padrões que se correlacionam com a violência por parceiro íntimo sem a revelar diretamente. Detetar e compreender não são a mesma coisa, e detetar e responder também não.
O problema de assinalar alguém que não falou
Eis o que a maior parte da cobertura deste tipo de investigação não capta: para alguém que vive violência por parceiro íntimo, o silêncio muitas vezes não é passividade. É estratégia.
Decidir se deve revelar o abuso envolve uma série de fatores que nenhum algoritmo consegue contabilizar totalmente. Preocupações com a segurança, dependência financeira de um parceiro abusivo, desconfiança em relação aos serviços sociais, medo de não ser acreditado e a possibilidade muito real de que a revelação possa desencadear processos de retirada de filhos. Em algumas situações, ficar em silêncio é a forma como uma pessoa mantém a segurança de si própria e dos seus filhos.
Os cuidados informados pelo trauma e pela violência, a estrutura que orienta as melhores práticas nesta área, baseiam-se em princípios de segurança, escolha, colaboração, ligação e capacitação. Esses princípios existem precisamente porque os sobreviventes precisam de manter o controlo sobre as suas próprias histórias. Um sistema que infere o abuso antes de uma pessoa ter escolhido partilhá-lo retira-lhe esse controlo, por muito bem-intencionada que seja a tecnologia subjacente.
Um dos investigadores envolvidos afirmou que o objetivo da ferramenta não é pressionar os doentes a revelarem, mas sim ajudar os clínicos a comunicar com mais compaixão e a ligar os doentes ao apoio. Essa perspetiva é importante. Também deixa em aberto uma questão crítica: o que acontece realmente assim que um doente é assinalado? O clínico está treinado para responder de uma maneira informada pelo trauma? Existem serviços adequados e acessíveis? A investigação ainda não responde a essas questões.
Porque é que a detetar não é o mesmo que cuidar
Existe um segundo risco que opera na direção oposta. Se os sistemas de saúde se tornarem excessivamente dependentes de pontuações de risco geradas por IA, a ausência de um sinal pode desincentivar os prestadores de cuidados a perguntar de todo sobre a violência. A investigação sobre sistemas de apoio à decisão clínica já identificou este padrão: o bias de automação, a tendência dos clínicos para ceder a recomendações automatizadas mesmo quando essas recomendações estão erradas.
Aplicado à violência por parceiro íntimo, o bias de automação pode significar que um sobrevivente que não corresponde ao perfil de risco do modelo tem menos probabilidade de ser questionado sobre a sua experiência. O algoritmo torna-se um filtro, e algumas pessoas escapam-lhe.
Isto aponta para um problema estrutural que a IA não consegue resolver sozinha. Mesmo que um modelo identifique corretamente um risco elevado, o sobrevivente continuará a deparar-se com as mesmas falhas em serviços, planeamento de segurança e recursos que existem hoje. Uma melhor identificação não produz automaticamente melhores resultados. A infraestrutura de resposta tem de estar lá primeiro.
Uma questão sobre quem pode contar a história
A importância mais ampla desta investigação não se resume realmente às taxas de precisão ou à validação do modelo. Trata-se de uma mudança na relação entre os doentes e os sistemas de saúde, uma mudança que a IA está a acelerar em muitos domínios, mas que aqui assume um peso particular.
A violência por parceiro íntimo é definida, em parte, por coerção e controlo. A capacidade de decidir quando, como e se deve falar sobre essa experiência não é um detalhe processual. Para muitos sobreviventes, é uma das poucas áreas de autonomia que possuem. Uma ferramenta que remove essa escolha, mesmo em nome da intervenção precoce, reproduz uma dinâmica que os cuidados informados pelo trauma foram especificamente criados para perturbar.
A perspetiva dos próprios investigadores reconhece esta tensão. Qualquer implementação de deteção de risco baseada em IA, argumentam, deve ser avaliada não apenas quanto à precisão preditiva, mas também face aos princípios de segurança, escolha, colaboração, ligação e capacitação. Esse é um padrão significativo. Significa também que implementar esta tecnologia de forma responsável requer muito mais do que um modelo com bom desempenho.
Em suma
A IA consegue agora identificar o risco potencial de violência por parceiro íntimo anos antes de os sobreviventes escolherem revelá-lo. A capacidade técnica é real e a intenção subjacente é melhorar os cuidados. O risco é que a deteção precoce, sem a formação clínica adequada, protocolos centrados no sobrevivente e serviços acessíveis, possa minar a própria agência que visa proteger. Detetar um problema e responder-lhe bem são duas coisas totalmente diferentes. O fosso entre elas é onde o verdadeiro trabalho começa.
Com base em reportagem de The Conversation.