Riconoscimento facciale, Detroit ha un problema

Gli studi hanno dimostrato che gli algoritmi sono inefficaci con donne e cittadini afroamericani, che costituiscono la maggioranza della popolazione

A Detroit, la città con la più alta percentuale di abitanti afroamericani degli Stati Uniti, da due anni la polizia ricorre “discretamente” al riconoscimento facciale per eseguire gli arresti, utilizzando una tecnologia profondamente inefficace proprio quando viene applicata in casi che coinvolgono donne o cittadini afroamericani.

Questa prassi è stata fortemente criticata dalle associazioni per la tutela delle libertà individuali, dal momento che numerosi studi ne denunciano una generale inefficacia proprio nell’identificazione delle minoranze. Secondo quanto denunciato da Willie Burton, componente di origini afroamericano della Commissione civile che vigila sull’operato delle forze dell’ordine, Detroit “è l’ultimo posto dove la polizia dovrebbe usare questa tecnologia, perché non è in grado di distinguere i neri e le donne gli uni dagli altri”, riporta il Guardian.

Riconoscimento facciale

La scoperta dell’uso di simili tecnologie, nella più grande città del Michigan (in cui l’83 per cento della popolazione è afroamericana), risale a maggio, quando è stata rivelata in uno studio dell’Università di Georgetown. Da allora numerosi dibattiti pubblici hanno avuto come oggetto le tecnologie di sorveglianza impiegate dalle forze dell’ordine. Inoltre, proprio a Detroit le autorità hanno accesso a un sistema di identificazione in tempo reale – capace quindi di associare un nome a ciascun volto impresso da una delle telecamere di sorveglianza -, scrive il Guardian, anche se il capo della polizia ne ha negato l’utilizzo.

Durante un incontro con la commissione di vigilanza, a luglio, Burton è stato temporaneamente arrestato per aver vigorosamente protestato proprio contro l’utilizzo di queste tecnologie di sorveglianza.

Ma alle proteste della popolazione civile e delle minoranze si aggiungono anche quelle di esperti e ricercatori, che evidenziano i potenziali rischi connessi al costante tracciamento di una persona attraverso il suo volto. Secondo Clare Garvie, tra gli autori dello studio condotto dall’Università di Georgetown, il sistema “potrebbe tradire informazioni sensibili relative alla localizzazione delle persone, chi sono, se stanno andando in chiesa o in una clinica per (curare) l’Hiv, e la Corte Suprema ha già detto che abbiamo il diritto alla privacy anche se siamo in pubblico”.

Il boom negli Stati Uniti

Secondo le stime del team di ricercatori, almeno un quarto dei 18mila posti di polizia del Paese utilizzerebbero il riconoscimento facciale. Oltre a Detroit, altre città coinvolte potrebbero essere Chicago e, in misura minore, Los Angeles.

Molteplici studi rilevano come il riconoscimento facciale sia meno efficace quando impiegato sulle minoranze, in quanto queste sono sottorappresentate nei database utilizzati per istruire gli algoritmi. Una ricerca pubblicata l’anno scorso dal Georgia Institute of Technology ha verificato come un’automobile dotata di guida autonoma abbia una probabilità maggiore di causare un incidente in cui sono coinvolti pedoni afroamericani o di sesso femminile. Gli algoritmi utilizzati sono stati infatti a lungo addestrati soprattutto per identificare maschi bianchi caucasici. Pregiudizio riflesso anche nella stessa composizione della comunità scientifica.

Alla luce di queste difficoltà tecniche, oltre che per garantire il rispetto alla privacy dei cittadini, alcune città hanno formalmente bandito il riconoscimento facciale, come nel caso di San Francisco. Dall’altra, queste tecnologie sono accessibili anche a privati, e la loro applicazione è stata studiata per identificare i volti dei partecipanti a manifestazioni pubbliche come concerti o eventi sportivi.

Impiegato per il fotosegnalamento, il riconoscimento facciale è utilizzato anche dalle forze dell’ordine italiane, che nel 2017 hanno lanciato una tecnologia in grado di mappare i tratti di una persona per confrontarli con quelli del database in dotazione alle autorità. Come ha rivelato un’inchiesta di Wired, quasi 8 schedati su 10 nel nostro Paese sono stranieri.