Accusato da un algoritmo

Robert Julian-Borchak Williams è stato accusato di un crimine che non ha mai commesso, senza nessuna prova o indizio a suo carico, a causa di un errore del software di riconoscimento facciale usato dalla polizia.

da un articolo di Valigia Blu
Oggi

Il 42enne afroamericano è stato arrestato lo scorso gennaio dalla polizia di Detroit davanti a casa sua, di fronte alla moglie e alle due figlie. Gli agenti non lo hanno informato del motivo dell’arresto fino a 18 ore dopo, quando ha saputo di essere il principale sospettato per un furto di cinque orologi del valore di circa 4 mila dollari.

Gli sono state scattate foto, prese le impronte digitali e raccolti campioni di DNA, per l’archivio criminale della polizia. Poi gli investigatori lo hanno interrogato sulla sua presunta visita al negozio di lusso Shinola, una boutique che vende orologi, biciclette e accessori in pelle nel centro di Detroit. Williams ha detto di esserci andato solo una volta con sua moglie nel 2014, quando aveva appena aperto, per dare uno sguardo. Dopo di che gli agenti hanno mostrato al detenuto alcune immagini prese della telecamera di sicurezza del negozio nelle quali si vedeva un uomo nero. Un uomo che non era Williams.

“Sei tu?”, gli hanno chiesto. “No”, ha risposto. “Spero che non siate convinti che tutti i neri si assomigliano”, ha detto l’accusato, avvicinando la foto al viso, per facilitare un confronto. Gli agenti, davanti all’evidenza, hanno accettato che la tecnologia di riconoscimento facciale poteva essersi sbagliata e hanno autorizzato il rilascio su cauzione, per la cifra di 1.000 dollari. Il caso è stato successivamente archiviato per mancanza di prove.

[…]
Ha scoperto solo per caso di essere stato accusato ingiustamente per via di una tecnologia fallace, perché uno degli investigatori l’ha detto durante l’interrogatorio. Il proprietario del negozio aveva consegnato le riprese delle telecamere di sorveglianza al dipartimento di polizia di Detroit che le aveva inoltrate alla polizia di Stato del Michigan. Il sistema di riconoscimento facciale utilizzato dalla polizia di stato ha trovato una corrispondenza con il volto di Williams presente su una vecchia foto della patente di guida.

La polizia usa il controverso sistema di riconoscimento facciale da oltre due decenni, nonostante studi accademici e governativi abbiano dimostrato che il loro livello di errore nell’identificazione delle persone di colore è notoriamente più frequente rispetto all’analisi dei volti dei bianchi. Della discriminazione compiuta da questi programmi ai danni degli afroamericani ne abbiamo parlato anche su Valigia Blu.

Eppure, nonostante l’inaffidabilità di questi software sulle persone di colore, la polizia di Detroit utilizza il riconoscimento facciale quasi esclusivamente in casi che coinvolgono afroamericani, stando alle statistiche del Dipartimento di Polizia della città, riportate dal sito Motherboard.

Due settimane dopo l’arresto, Williams è comparso in tribunale e il pubblico ministero ha archiviato il caso per mancanza di prove. La polizia di Detroit si è difesa sui media locali sostenendo di non eseguire arresti basati esclusivamente sul riconoscimento facciale. “L’investigatore ha esaminato il video, ha intervistato testimoni, ha fatto un confronto fotografico.”

Mercoledì scorso, l’organizzazione per i diritti civili ACLU (American Civil Liberties Union), ha presentato una denuncia alla città, chiedendo la chiusura completa del caso, le scuse pubbliche e la rimozione delle informazioni di Williams dai database criminali di Detroit. Inoltre, ha chiesto al dipartimento di smettere di usare il sistema di riconoscimento facciale.

Questo lunedì, in un incontro pubblico, il capo della polizia di Detroit, James Craig, ha ammesso che la tecnologia, sviluppata da una società chiamata DataWorks Plus, non riporta quasi mai una corrispondenza diretta e identifica quasi sempre le persone sbagliate.
Secondo gli stessi agenti della polizia di Detroit, la decisione di interrogare o di indagare su una persona viene presa in base alle corrispondenze che individua il software. Questo sistema fa sì che persone che potrebbero non aver avuto nulla a che fare con un crimine vengano interrogate, indagate o addirittura arrestate dalla polizia. A Detroit, questo significa, quasi esclusivamente, i neri.

In risposta all’articolo pubblicato dal New York Times, l’ufficio del procuratore della contea di Wayne ha dichiarato che probabilmente il caso che vede coinvolto Robert Julian-Borchak Williams sarà cancellato e i dati personali inseriti nel database della polizia, rimossi. “Ci scusiamo”, ha dichiarato il procuratore Kym L. Worthy in una nota. “Questo non compensa in alcun modo le ore trascorse in carcere dal signor Williams”, ha aggiunto.

Il caso di Williams arriva sui giornali nel momento in cui stiamo assistendo a una delle più grandi ondate di proteste antirazziste degli ultimi cinquant’anni negli Stati Uniti.

La politica locale e i cittadini stanno iniziando a combattere contro l’uso indiscriminato del riconoscimento facciale. Questa settimana, Boston ha votato per vietare l’uso del riconoscimento facciale da parte del governo, diventando così la quarta città del Massachusetts a farlo. Anche San Francisco, Alameda, Berkeley e Oakland hanno approvato leggi simili.

Le cose potrebbero cambiare se passasse un nuovo disegno di legge proposto da Democratici alla Camera e al Senato. La moratoria sul riconoscimento facciale e sulla tecnologia biometrica, annunciata questa settimana, metterebbe un divieto indefinito sul riconoscimento facciale per le agenzie federali, statali e locali. “Tra il rischio di scivolare in uno Stato di sorveglianza da cui non possiamo sfuggire e i pericoli di perpetuare la discriminazione razziale, questa tecnologia non è pronta per essere utilizzata”, ha dichiarato il senatore democratico Jeff Merkley a CNET.

Amazon, Microsoft e IBM hanno annunciato nelle ultime settimane che sospenderanno le vendite della tecnologia di riconoscimento facciale alle forze dell’ordine. Ma il gesto è più simbolico che efficace, poiché la maggior parte dei dipartimenti di polizia utilizzano sistemi specializzati sviluppati da piccole imprese.

Foto via ACLU
Articolo originale

I commenti sono chiusi.

Create a website or blog at WordPress.com

Su ↑

%d blogger hanno fatto clic su Mi Piace per questo: