The Brief
Sociedade e ética 5 min de leitura

Reconhecimento Facial como Prova: O Erro Que Leva Pessoas a Serem Detidas

NAVION

Partilhar

Uma inspeção formal sobre a forma como a polícia britânica utiliza a tecnologia de reconhecimento facial produziu uma conclusão que atinge o cerne de como os sistemas de IA podem falhar na prática. O problema não é simplesmente que a tecnologia comete erros. É que os agentes, por vezes, tratam esses erros como factos.

Quando uma Pontuação de Probabilidade se Torna um Mandado

A Inspeção da Polícia de Sua Majestade (His Majesty’s Inspectorate of Constabulary) publicou um relatório que examina o reconhecimento facial retroativo, a forma da tecnologia utilizada para pesquisar bases de dados de imagens existentes em vez de digitalizar multidões em tempo real. Até esta aplicação menos polémica, concluiu o relatório, comporta riscos graves quando os humanos que a operam não compreendem o que os seus resultados significam realmente.

A questão central é um erro de categoria. Os resultados do reconhecimento facial são inteligência, uma pista a investigar, e não prova que possa justificar uma ação de execução da lei por si só. Contudo, o relatório concluiu que alguns investigadores desconheciam a existência desta distinção. Num pequeno número de casos, os agentes agiram com base em potenciais correspondências sem realizarem verificações de acompanhamento suficientes. O resultado, nesses casos, foi o que o relatório designa por “ação investigativa inadequada”.

É isto que a maior parte da cobertura jornalística sobre o reconhecimento facial perde de vista. O debate tende a concentrar-se em saber se a tecnologia deve sequer existir. O relatório altera a perspetiva: mesmo onde a tecnologia é permitida, estarão as pessoas que a utilizam preparadas para a usar corretamente? A resposta, em pelo menos alguns casos documentados, é não.

Viés, Más Imagens e Salvaguardas em Falta

O relatório identifica vários problemas agravantes. O próprio algoritmo transporta viés, incluindo uma maior probabilidade de sinalizar incorretamente pessoas de minorias étnicas como suspeitas. Esta não é uma conclusão nova no campo mais amplo da investigação sobre reconhecimento facial, mas a sua presença numa inspeção oficial à utilização policial ativa confere-lhe um peso particular.

A qualidade das imagens introduzidas no sistema também importa. Os auditores encontraram casos em que os agentes carregaram imagens desfocadas ou imagens contendo múltiplos rostos, sendo que ambos reduzem a fiabilidade de qualquer correspondência devolvida pelo sistema. A tecnologia só pode funcionar tão bem quanto os dados de entrada que recebe.

Jasleen Chaggar, da organização Big Brother Watch, levantou uma preocupação adicional: a polícia não está a registar consistentemente a sua utilização do reconhecimento facial retroativo. Isto significa que os indivíduos podem tornar-se suspeitos em investigações criminais sem qualquer registo transparente do motivo pelo qual foram sinalizados, e sem qualquer forma prática de contestar o processo.

O relatório concluiu também que as imagens de detenção que deveriam ter sido eliminadas foram, de facto, retidas, criando um risco adicional para a confiança pública. E subjacente a tudo isto está uma lacuna legislativa. Como afirma o relatório, a lei não acompanhou o ritmo da tecnologia. Não existe um enquadramento legal abrangente que regule a forma como o reconhecimento facial pode ser utilizado, o que dificulta a compreensão por parte das forças policiais sobre o que é legalmente permitido e quais as salvaguardas necessárias.

O professor Pete Fussey, da Universidade de Southampton, anteriormente conselheiro policial em matéria de reconhecimento facial, colocou a dimensão jurídica de forma clara: a escrutínio humano significativo dos sistemas de IA já é um requisito legal, no entanto o relatório documenta casos em que os investigadores aceitaram o resultado do computador sem verificação adicional.

O Que Isto Revela Sobre a IA em Ambientes de Alto Risco

O caso do reconhecimento facial é um exemplo específico de um desafio muito mais amplo. Quando os sistemas de IA são implementados em ambientes onde os seus resultados podem desencadear consequências no mundo real, tais como uma detenção, uma decisão médica ou uma ação financeira, os humanos envolvidos precisam de compreender precisamente o que o sistema está e não está a dizer-lhes.

Uma correspondência de IA não é uma conclusão. É um sinal que justifica uma investigação mais aprofundada. No momento em que essa distinção desaba, o sistema deixa de potenciar o julgamento humano e passa a substituí-lo, e não de uma forma que sirva bem alguém. Kathryn Stone, inspetora da polícia de Sua Majestade, tornou isto explícito: as decisões devem continuar sujeitas ao julgamento humano, e as salvaguardas adequadas devem estar comprovadamente em vigor.

O apelo do relatório a um enquadramento legal mais claro, padrões nacionais mais fortes e uma governação melhorada não é prudência burocrática. Reflete uma lacuna genuína entre a rapidez com que a tecnologia foi adotada e a lentidão com que as estruturas institucionais em seu redor se desenvolveram. A tecnologia avança mais depressa do que a lei. É nessa lacuna que o dano tende a ocorrer.

Ben Russell, do Conselho de Chefes de Polícia Nacionais (National Police Chiefs’ Council), reconheceu o relatório ao mesmo tempo que reafirmou o compromisso da polícia com a utilização ética e proporcional da tecnologia. A tensão entre esse compromisso declarado e as falhas documentadas é exatamente o que o relatório pede às forças policiais que resolvam.

Em Resumo

O reconhecimento facial pode apoiar investigações criminais, mas apenas se as pessoas que o utilizam compreenderem que uma correspondência é um ponto de partida, e não uma conclusão. A inspeção concluiu que esta compreensão não é universal entre os agentes, que o algoritmo transporta viés contra as minorias étnicas e que o enquadramento legal que regula a utilização da tecnologia permanece incompleto. O risco não é apenas a detenção injusta. É a erosão da confiança pública numa ferramenta que, utilizada corretamente, poderia ter um valor genuíno.

Com base em reportagem de The Guardian.

Escrito por

NAVION