Os sistemas de cuidados de saúde primários em todo o mundo estão sob pressão. A procura supera a capacidade, os recursos estão esgotados e os doentes esperam muitas vezes mais tempo do que deveriam por orientações básicas. Nesta lacuna, uma nova categoria de tecnologia tem vindo a infiltrar-se silenciosamente: modelos de IA conversacional concebidos para interagir diretamente com os doentes. A promessa é real. A base de evidências, de acordo com um artigo publicado na Nature Medicine, ainda não existe.
O problema não é a tecnologia. É a evidência.
A observação central da Nature Medicine é precisa e merece atenção: embora os modelos de IA conversacional possam ajudar a aliviar a pressão sobre centros de cuidados de saúde primários sobrecarregados e com falta de recursos, a evidência que apoia a sua segurança em contextos reais e virados para o doente continua a ser escassa.
Isto é o que a maior parte da cobertura sobre IA médica perde. A conversa tende a centrar-se na capacidade: consegue um modelo responder a perguntas clínicas com precisão, consegue fazer a triagem de sintomas, consegue explicar um diagnóstico em linguagem simples? Estas são perguntas legítimas. Mas a capacidade num ambiente controlado e a segurança numa implementação no mundo real são duas coisas completamente diferentes. Um modelo pode ter um bom desempenho num teste de referência e continuar a comportar-se de forma imprevisível quando um doente aflito faz uma pergunta ambígua às 2 da manhã, sem nenhum médico a acompanhar o processo.
A distinção importa porque os cuidados de saúde primários não são um ambiente de investigação estéril. São caóticos, emocionalmente carregados e povoados por pessoas que estão frequentemente assustadas, confusas ou a gerir várias condições ao mesmo tempo. Implementar IA conversacional nesse ambiente sem uma base de evidências sólida não é um ato neutro. É um risco calculado e, neste momento, os dados necessários para calibrar esse risco de forma responsável não estão disponíveis à escala necessária.
Para onde o setor está a caminhar
A Nature Medicine faz referência a duas direções de investigação específicas que sinalizam para onde o setor se está a dirigir: agentes chamados AMIE e MIRA, descritos como potenciadores das capacidades da IA médica. A publicação também aponta para o trabalho em curso relacionado com a delegação de consentimento à IA e a colocação dos doentes no centro da governação da IA médica.
Estas não são preocupações periféricas. Apontam para uma conversa em amadurecimento sobre o que significa realmente implementar IA em contextos clínicos de forma responsável. A governação, o consentimento e o design centrado no doente não são complementos a definir após a implementação. São requisitos fundamentais, e o facto de a Nature Medicine estar a publicar trabalhos sobre os três em simultâneo sugere que a comunidade de investigação está a começar a tratá-los dessa forma.
A questão do consentimento é particularmente significativa. Quando um doente interage com uma IA conversacional num ambiente de saúde, pode não compreender totalmente com o que está a interagir, que dados estão a ser recolhidos ou como são gerados os resultados do sistema. Delegar decisões de consentimento na IA levanta questões que vão além da tecnologia: dizem respeito à autonomia, à transparência e às condições básicas em que a confiança entre um doente e um sistema de saúde é estabelecida.
Porque é que isto importa para além da clínica
A importância mais ampla deste momento não se cinge aos cuidados de saúde. Tem a ver com o que acontece quando os sistemas de IA passam de ferramentas auxiliares utilizadas por profissionais para o contacto direto e sem supervisão com o público em geral.
Na maioria das implementações de IA até à data, existe um humano a acompanhar o processo. Um médico revê um resumo gerido por IA. Um advogado verifica um contrato redigido por IA. Um professor avalia um ensaio assistido por IA. O humano atua como um filtro, detetando erros antes de chegarem à pessoa que seria prejudicada por eles. A IA conversacional nos cuidados de saúde primários virados para o doente remove ou reduz esse filtro por conceção. É precisamente isso que a torna potencialmente valiosa: consegue chegar a pessoas que, de outra forma, não teriam acesso a orientação. É também precisamente isso que torna a questão da segurança tão urgente.
A abordagem da Nature Medicine é prudente e instrutiva. Não defende que a IA conversacional não deve ser usada nos cuidados de saúde primários. Defende que a evidência necessária para a usar de forma responsável ainda não é suficiente. Essa é uma distinção significativa. Posiciona a IA não como uma ameaça aos cuidados clínicos, mas sim como uma tecnologia que precisa de conquistar o seu lugar num ambiente de alto risco através de uma validação rigorosa no mundo real, em vez de uma extrapolação otimista a partir de resultados laboratoriais.
Este é o tipo de padrão que se deve aplicar a qualquer sistema de saúde que opere em contextos onde os erros acarretam consequências humanas graves. Os cuidados de saúde são simplesmente o domínio onde os riscos são mais visíveis.
Em suma
A IA conversacional tem um potencial genuíno para aliviar a carga sobre os sistemas de cuidados de saúde primários sobrecarregados. O obstáculo não é a capacidade: é a evidência. Os dados de segurança no mundo real para a IA virada para o doente em contextos clínicos continuam a ser escassos, e a comunidade de investigação está a trabalhar ativamente para colmar essa lacuna através de trabalhos sobre governação, consentimento e design centrado no doente. Até que essa base de evidências seja construída, a lacuna entre o que estes sistemas conseguem fazer e o que se pode afirmar de forma responsável sobre a sua segurança continua a ser grande.
Com base em reportagem de Nature Medicine.