Diritti Digitali Fuori da qui Post

Accusato dall’algoritmo e arrestato dalla polizia per un reato che non aveva commesso. I problemi del riconoscimento facciale

2 Luglio 2020 5 min lettura

author:

Accusato dall’algoritmo e arrestato dalla polizia per un reato che non aveva commesso. I problemi del riconoscimento facciale

5 min lettura

Robert Julian-Borchak Williams è stato accusato di un crimine che non ha mai commesso, senza nessuna prova o indizio a suo carico, a causa di un errore del software di riconoscimento facciale usato dalla polizia.

Il 42enne afroamericano è stato arrestato lo scorso gennaio dalla polizia di Detroit davanti a casa sua, di fronte alla moglie e alle due figlie. Gli agenti non lo hanno informato del motivo dell'arresto fino a 18 ore dopo, quando ha saputo di essere il principale sospettato per un furto di cinque orologi del valore di circa 4 mila dollari.

Gli sono state scattate foto, prese le impronte digitali e raccolti campioni di DNA, per l'archivio criminale della polizia. Poi gli investigatori lo hanno interrogato sulla sua presunta visita al negozio di lusso Shinola, una boutique che vende orologi, biciclette e accessori in pelle nel centro di Detroit. Williams ha detto di esserci andato solo una volta con sua moglie nel 2014, quando aveva appena aperto, per dare uno sguardo. Dopo di che gli agenti hanno mostrato al detenuto alcune immagini prese della telecamera di sicurezza del negozio nelle quali si vedeva un uomo nero. Un uomo che non era Williams.

"Sei tu?", gli hanno chiesto. "No", ha risposto. "Spero che non siate convinti che tutti i neri si assomigliano", ha detto l'accusato, avvicinando la foto al viso, per facilitare un confronto. Gli agenti, davanti all'evidenza, hanno accettato che la tecnologia di riconoscimento facciale poteva essersi sbagliata e hanno autorizzato il rilascio su cauzione, per la cifra di 1.000 dollari. Il caso è stato successivamente archiviato per mancanza di prove.

Secondo quanto ha raccontato in una lettera aperta al Washington Post, pubblicata la settimana scorsa, Williams era indignato al momento dell'arresto, perché sapeva di non aver fatto nulla di male, ma "come qualsiasi altro uomo di colore, doveva considerare cosa sarebbe potuto accadere se avesse posto troppe domande" o se avesse mostrato apertamente la sua rabbia.

Ha scoperto solo per caso di essere stato accusato ingiustamente per via di una tecnologia fallace, perché uno degli investigatori l'ha detto durante l'interrogatorio. Il proprietario del negozio aveva consegnato le riprese delle telecamere di sorveglianza al dipartimento di polizia di Detroit che le aveva inoltrate alla polizia di Stato del Michigan. Il sistema di riconoscimento facciale utilizzato dalla polizia di stato ha trovato una corrispondenza con il volto di Williams presente su una vecchia foto della patente di guida.

Leggi anche >> Intelligenza artificiale e riconoscimento facciale: perché la società della sorveglianza digitale non è più accettabile

La polizia usa il controverso sistema di riconoscimento facciale da oltre due decenni, nonostante studi accademici e governativi abbiano dimostrato che il loro livello di errore nell'identificazione delle persone di colore è notoriamente più frequente rispetto all'analisi dei volti dei bianchi. Della discriminazione compiuta da questi programmi ai danni degli afroamericani ne abbiamo parlato anche su Valigia Blu.

Eppure, nonostante l'inaffidabilità di questi software sulle persone di colore, la polizia di Detroit utilizza il riconoscimento facciale quasi esclusivamente in casi che coinvolgono afroamericani, stando alle statistiche del Dipartimento di Polizia della città, riportate dal sito Motherboard.

Due settimane dopo l'arresto, Williams è comparso in tribunale e il pubblico ministero ha archiviato il caso per mancanza di prove. La polizia di Detroit si è difesa sui media locali sostenendo di non eseguire arresti basati esclusivamente sul riconoscimento facciale. "L'investigatore ha esaminato il video, ha intervistato testimoni, ha fatto un confronto fotografico."

Mercoledì scorso, l'organizzazione per i diritti civili ACLU (American Civil Liberties Union), ha presentato una denuncia alla città, chiedendo la chiusura completa del caso, le scuse pubbliche e la rimozione delle informazioni di Williams dai database criminali di Detroit. Inoltre, ha chiesto al dipartimento di smettere di usare il sistema di riconoscimento facciale.

Leggi anche >> I problemi e i rischi del riconoscimento facciale tra Cina e resto del mondo

Questo lunedì, in un incontro pubblico, il capo della polizia di Detroit, James Craig, ha ammesso che la tecnologia, sviluppata da una società chiamata DataWorks Plus, non riporta quasi mai una corrispondenza diretta e identifica quasi sempre le persone sbagliate.

"Se utilizzassimo solamente il software [per identificare i soggetti], il 95-97% delle volte non risolveremmo il caso", ha affermato Craig. "Questo se ci affidassimo totalmente al software, il che sarebbe contrario alla nostra attuale politica... Se dovessimo usare la tecnologia da sola, per identificare qualcuno, direi che il 96% delle volte sarebbe identificato in maniera erronea", ha dichiarato.

Nella pratica però, secondo gli stessi agenti della polizia di Detroit, la decisione di interrogare o di indagare su una persona viene presa in base alle corrispondenze che individua il software. Questo sistema fa sì che persone che potrebbero non aver avuto nulla a che fare con un crimine vengano interrogate, indagate o addirittura arrestate dalla polizia. A Detroit, questo significa, quasi esclusivamente, i neri.

In risposta all'articolo pubblicato dal New York Times, l'ufficio del procuratore della contea di Wayne ha dichiarato che probabilmente il caso che vede coinvolto Robert Julian-Borchak Williams sarà cancellato e i dati personali inseriti nel database della polizia, rimossi. "Ci scusiamo", ha dichiarato il procuratore Kym L. Worthy in una nota. "Questo non compensa in alcun modo le ore trascorse in carcere dal signor Williams", ha aggiunto.

Il caso di Williams arriva sui giornali nel momento in cui stiamo assistendo a una delle più grandi ondate di proteste antirazziste degli ultimi cinquant'anni negli Stati Uniti.

Leggi anche >> I bianchi dovrebbero smetterla di dire ai neri come protestare

La politica locale e i cittadini stanno iniziando a combattere contro l'uso indiscriminato del riconoscimento facciale. Questa settimana, Boston ha votato per vietare l'uso del riconoscimento facciale da parte del governo, diventando così la quarta città del Massachusetts a farlo. Anche San Francisco, Alameda, Berkeley e Oakland hanno approvato leggi simili.

È una corsa contro il tempo. I politici locali si stanno muovendo rapidamente - ognuna di queste città ha annunciato i propri divieti nell'arco di poco più di un anno - ma forse non abbastanza rapidamente, vista la massiccia adozione del riconoscimento facciale da parte della polizia negli ultimi dieci anni.

Ciò potrebbe cambiare se passasse un nuovo disegno di legge proposto da Democratici alla Camera e al Senato. La moratoria sul riconoscimento facciale e sulla tecnologia biometrica, annunciata questa settimana, metterebbe un divieto indefinito sul riconoscimento facciale per le agenzie federali, statali e locali. "Tra il rischio di scivolare in uno Stato di sorveglianza da cui non possiamo sfuggire e i pericoli di perpetuare la discriminazione razziale, questa tecnologia non è pronta per essere utilizzata", ha dichiarato il senatore democratico Jeff Merkley a CNET.

Amazon, Microsoft e IBM hanno annunciato nelle ultime settimane che sospenderanno le vendite della tecnologia di riconoscimento facciale alle forze dell'ordine. Ma il gesto è più simbolico che efficace, poiché la maggior parte dei dipartimenti di polizia utilizzano sistemi specializzati sviluppati da piccole imprese.

Foto via ACLU

Iscriviti alla nostra Newsletter

  Consenso all’invio della newsletter: Dai il tuo consenso affinché Valigia Blu possa usare le informazioni che fornisci allo scopo di inviarti la newsletter settimanale e una comunicazione annuale relativa al nostro crowdfunding.
Come revocare il consenso: Puoi revocare il consenso all’invio della newsletter in ogni momento, utilizzando l’apposito link di cancellazione nella email o scrivendo a info@valigiablu.it. Per maggiori informazioni leggi l’informativa privacy su www.valigiablu.it.
Segnala un errore