The Brief
Società ed etica 5 min di lettura

Il riconoscimento facciale come prova: l'errore che fa arrestare le persone

NAVION

Condividi

Un’ispezione formale sull’uso della tecnologia di riconoscimento facciale da parte della polizia britannica ha prodotto una scoperta che va al cuore di come i sistemi di IA possono fallire nella pratica. Il problema non è semplicemente che la tecnologia commette errori. È che gli agenti a volte trattano quegli errori come fatti.

Quando un punteggio di probabilità diventa un mandato

L’ispettorato di Sua Maestà per la gendarmeria ha pubblicato un rapporto che esamina il riconoscimento facciale retrospettivo, la forma di tecnologia utilizzata per cercare nei database di immagini esistenti anziché scansionare le folle in tempo reale. Anche questa applicazione meno controversa, secondo il rapporto, comporta seri rischi quando gli esseri umani che la utilizzano non capiscono cosa significhino realmente i suoi output.

Il problema centrale è un errore di categoria. I risultati del riconoscimento facciale sono intelligence, un indizio da investigare, non prove che possono giustificare da sole un’azione esecutiva. Eppure il rapporto ha rilevato che alcuni investigatori non sapevano che questa distinzione esistesse. In un piccolo numero di casi, gli agenti hanno agito su potenziali corrispondenze senza effettuare sufficienti controlli di follow-up. Il risultato, in quei casi, è stato ciò che il rapporto definisce “azione investigativa inappropriata”.

Questo è ciò che la maggior parte della copertura mediatica sul riconoscimento facciale tralascia. Il dibattito tende a concentrarsi sull’opportunità o meno che la tecnologia debba esistere. Il rapporto sposta la domanda: anche laddove la tecnologia è consentita, le persone che la utilizzano sono attrezzate per usarla correttamente? La risposta, in almeno alcuni casi documentati, è no.

Bias, immagini scadenti e tutele mancanti

Il rapporto identifica diversi problemi che si sommano. L’algoritmo stesso presenta dei bias, tra cui una maggiore probabilità di segnalare erroneamente come sospette persone provenienti da minoranze etniche. Questa non è una nuova scoperta nel campo più ampio della ricerca sul riconoscimento facciale, ma la sua presenza in un’ispezione ufficiale dell’uso attivo da parte della polizia le conferisce un peso particolare.

Anche la qualità delle immagini immesse nel sistema è importante. I revisori hanno riscontrato casi in cui gli agenti hanno caricato immagini sfocate o immagini contenenti più volti, entrambi fattori che riducono l’affidabilità di qualsiasi corrispondenza restituita dal sistema. La tecnologia può funzionare solo in base agli input che riceve.

Jasleen Chaggar di Big Brother Watch ha sollevato un’ulteriore preoccupazione: la polizia non registra costantemente l’uso del riconoscimento facciale retrospettivo. Ciò significa che gli individui potrebbero diventare sospettati in indagini penali senza alcun registro trasparente del motivo per cui sono stati segnalati e senza alcun modo pratico per contestare il processo.

Il rapporto ha anche rilevato che le immagini segnaletiche che avrebbero dovuto essere eliminate sono state invece conservate, creando un rischio aggiuntivo per la fiducia del pubblico. E alla base di tutto questo c’è un divario legislativo. Come afferma il rapporto, la legge non ha tenuto il passo con la tecnologia. Non esiste un quadro normativo completo che disciplini le modalità di utilizzo del riconoscimento facciale, il che rende più difficile per le forze di polizia capire cosa sia legalmente consentito e quali tutele siano richieste.

Il professor Pete Fussey dell’Università di Southampton, ex consulente della polizia sul riconoscimento facciale, ha espresso chiaramente la dimensione legale: un controllo umano significativo sui sistemi di IA è già un requisito legale, eppure il rapporto documenta casi in cui gli investigatori hanno accettato l’output del computer senza ulteriore verifica.

Cosa rivela questo sull’IA in ambienti ad alto rischio

Il caso del riconoscimento facciale è un’istanza specifica di una sfida molto più ampia. Quando i sistemi di IA vengono implementati in ambienti in cui i loro output possono innescare conseguenze nel mondo reale, come un arresto, una decisione medica o un’azione finanziaria, gli esseri umani coinvolti devono comprendere con precisione cosa il sistema sta dicendo loro e cosa no.

Una corrispondenza di IA non è una conclusione. È un segnale che giustifica ulteriori indagini. Nel momento in cui questa distinzione crolla, il sistema smette di potenziare il giudizio umano e inizia a sostituirlo, e non in un modo che sia utile a qualcuno. Kathryn Stone, ispettrice della gendarmeria di Sua Maestà, lo ha reso esplicito: le decisioni devono rimanere soggette al giudizio umano e le tutele appropriate devono essere dimostrabilmente in vigore.

La richiesta del rapporto di un quadro normativo più chiaro, standard nazionali più forti e una governance migliorata non è cautela burocratica. Riflette un divario reale tra la velocità con cui la tecnologia è stata adottata e la lentezza con cui si sono sviluppate le strutture istituzionali che la circondano. La tecnologia si muove più velocemente della legge. Quel divario è il luogo in cui tende a verificarsi il danno.

Ben Russell del National Police Chiefs’ Council ha riconosciuto il rapporto, confermando al contempo l’impegno della polizia verso un uso etico e proporzionato della tecnologia. La tensione tra tale impegno dichiarato e i fallimenti documentati è esattamente ciò che il rapporto chiede alle forze dell’ordine di risolvere.

In breve

Il riconoscimento facciale può supportare le indagini penali, ma solo se le persone che lo utilizzano comprendono che una corrispondenza è un punto di partenza, non una conclusione. L’ispezione ha rilevato che questa comprensione non è universale tra gli agenti, che l’algoritmo presenta bias nei confronti delle minoranze etniche e che il quadro giuridico che disciplina l’uso della tecnologia rimane incompleto. Il rischio non è solo l’arresto ingiustificato. È l’erosione della fiducia del pubblico in uno strumento che, se usato correttamente, potrebbe avere un valore reale.

Basato su un articolo di The Guardian.

Scritto da

NAVION