A maioria das pessoas aprende RCP em um manequim. Esse manequim, na maioria dos casos, tem o peito plano. Um estudo de 2024 examinando 20 modelos de treinamento de RCP vendidos em todo o mundo descobriu que três quartos foram descritos como masculinos ou não tinham o sexo especificado. Apenas um oferecia uma sobreposição de mamas. Isso não é um detalhe menor sobre o equipamento de treinamento. É um sintoma visível de um problema estrutural muito mais profundo, um que agora ameaça ser codificado permanentemente na inteligência artificial da saúde.
A Lacuna Que Começa Antes do Algoritmo
As consequências da subrepresentação no treinamento médico são mensuráveis. Um estudo nos Estados Unidos com 19.331 paradas cardiorrespiratórias fora do hospital descobriu que 39% das mulheres que desmaiaram em público receberam RCP de um transeunte, em comparação com 45% dos homens. Essa diferença de seis pontos percentuais pode refletir em parte a hesitação enraizada na falta de familiaridade, pois as pessoas treinadas em manequins com formato masculino podem se sentir menos confiantes ao realizar RCP em um corpo feminino. O momento é extremamente importante. Um estudo separado nos Estados Unidos descobriu que as pessoas que receberam RCP de um transeunte quatro a cinco minutos após uma parada cardíaca testemunhada tinham chances 27% menores de sobreviver até a alta hospitalar em comparação com aquelas que a receberam em até um minuto. Na Inglaterra, menos de um em cada 12 pacientes para os quais os serviços de ambulância tentaram ressuscitação sobreviveram por 30 dias, de acordo com números relatados em 2024.
O problema do manequim é solucionável com equipamentos melhores. O problema mais profundo é o que acontece quando o mesmo viés histórico entra nos dados que treinam os sistemas de IA.
Como Registros Com Viés Se Tornam Algoritmos Com Viés
A IA da saúde aprende encontrando padrões em registros médicos. O problema é que os registros médicos não refletem apenas a biologia. Eles refletem decisões clínicas, e essas decisões foram historicamente moldadas por suposições sobre sexo e gênero.
Um estudo experimental com estudantes de medicina e residentes ilustra claramente o mecanismo. Quando os sintomas de doença cardíaca coronária foram apresentados junto com estresse psicológico, as mulheres receberam menos diagnósticos de doença cardíaca coronária e menos encaminhamentos para cardiologia do que os homens. Seus sintomas tinham maior probabilidade de serem interpretados como psicogênicos. Um sistema de IA treinado em registros moldados por essas decisões não saberia que um viés estava presente. Ele simplesmente aprenderia o padrão e o reproduziria.
Isso não é um risco hipotético. Análises de IA na medicina alertaram que conjuntos de dados desequilibrados produzem desempenho irregular. Avaliar esse desequilíbrio é difícil em si, pois uma análise de 2024 de 692 dispositivos médicos habilitados por IA aprovados pela Food and Drug Administration dos Estados Unidos descobriu que informações demográficas e detalhes de estudos de desempenho frequentemente faltavam em documentos públicos.
O problema dos dados é profundo. As fêmeas têm sido consistentemente subrepresentadas na pesquisa médica há décadas. Após a tragédia da talidomida no final dos anos 1950 e início dos anos 1960, a Food and Drug Administration dos Estados Unidos recomendou em 1977 excluir de testes iniciais de medicamentos as mulheres que pudessem engravidar. Essa política só foi revertida em 1993. Animais machos também foram favorecidos em pesquisas laboratoriais, e muitos estudos falharam em relatar o sexo das células usadas em experimentos.
Os efeitos no tratamento estão documentados. As mulheres eliminam o medicamento para dormir zolpidem mais lentamente do que os homens, e em 2013 os reguladores recomendaram reduzir pela metade a dose inicial para mulheres. Uma análise de 2020 descobriu que as mulheres experimentaram reações adversas a medicamentos quase duas vezes mais frequentemente do que os homens, com diferenças em como os medicamentos se movem pelo corpo explicando muitas delas.
Antigas Suposições, Nova Tecnologia
A representação na pesquisa médica melhorou. As diretrizes de Sex and Gender Equity in Research de 2016 incentivam os pesquisadores a considerar e relatar sexo e gênero. Uma análise de 2026 de 574 artigos descobriu que 61% incluíam ambos os sexos. No entanto, apenas 44% desses artigos analisaram os resultados por sexo. A inclusão sem análise deixa a lacuna de conhecimento subjacente intacta.
A distinção entre sexo biológico e gênero adiciona outra camada de complexidade. A biologia relacionada ao sexo pode influenciar a forma como os medicamentos são metabolizados. Experiências de gênero podem afetar o acesso aos cuidados de saúde e a forma como os sintomas são interpretados. Muitos bancos de dados de saúde juntam ambos em uma única categoria binária, limitando o que os pesquisadores podem realmente concluir a partir dos dados.
A apresentação dos sintomas ilustra por que a precisão importa. Uma análise de mais de um milhão de pessoas com síndromes coronarianas agudas descobriu que 74% das mulheres e 79% dos homens sentiram dor no peito, mas as mulheres tiveram maiores chances de relatar sintomas adicionais, incluindo dor no pescoço ou na mandíbula, fadiga e falta de ar. Um estudo australiano com mais de 202.000 pessoas internadas com derrame descobriu que, entre aqueles com menos de 70 anos que chegaram de ambulância, as mulheres tinham menos probabilidade do que os homens de serem avaliadas como tendo sofrido um derrame pelos paramédicos e menos probabilidade de serem tratadas sob o protocolo de derrame pré-hospitalar.
Aqui está o que a maioria das coberturas sobre IA na saúde deixa passar: o problema não é que os sistemas de IA são mal projetados. O problema é que eles são treinados em registros que foram produzidos sob condições de subrepresentação sistemática. Um algoritmo tecnicamente sólido aplicado a dados historicamente distorcidos produzirá resultados historicamente distorcidos. O viés não desaparece só porque a tecnologia é nova.
Um estudo de 6,9 milhões de pessoas na Dinamarca descobriu que as mulheres eram mais velhas em seu primeiro diagnóstico hospitalar para a maioria das condições examinadas. Esse padrão pode refletir o início tardio da doença, comportamento diferente na busca por saúde ou diagnóstico mais lento. Desvendar essas causas exige um design de pesquisa cuidadoso. Os sistemas de IA treinados no padrão bruto, sem esse contexto, não conseguem fazer a distinção.
Em Resumo
Décadas de pesquisa médica que trataram o corpo masculino como padrão produziram conjuntos de dados dos quais os sistemas de IA agora aprendem. Quando esses sistemas identificam padrões em dados de saúde, eles podem estar aprendendo não apenas sobre a doença, mas sobre como os pacientes foram historicamente tratados de forma diferente com base no sexo e no gênero. Melhorar a representação em pesquisas futuras é necessário, mas não suficiente. A tarefa mais urgente é entender quais padrões nos dados existentes refletem a biologia e quais refletem velhas suposições, antes que essas suposições sejam incorporadas nas ferramentas de diagnóstico e tratamento da próxima geração.
Com base em reportagem de The Conversation AI.