Amazon, il riconoscimento facciale scambia parlamentari neri per criminali

Amazon, il riconoscimento facciale è razzista: scambia parlamentari neri per criminali

WASHINGTON – Il sistema di riconoscimento facciale di Amazon ha scambiato 28 membri del Congresso Usa per criminali [App di Blitzquotidiano, gratis, clicca qui,- Ladyblitz clicca qui –Cronaca Oggi, App on Google Play]. Sarebbe la prova dei rischi legati a questa tecnologia negli ultimi mesi utilizzata (in fase di test) anche dalle forze di polizia.

Lo afferma l’American Civil Liberties Union (Aclu), che ha condotto l’esperimento per convincere proprio il Congresso a sostenere una delle sue cause: arrivare a una moratoria sull’utilizzo del riconoscimento facciale nella pubblica sicurezza.

L’Aclu ha creato un archivio raccogliendo 25.000 foto segnaletiche. Ha poi mostrato alla tecnologia di Amazon, chiamata Rekognition, le immagini de 535 parlamentari americani. In 28 casi (cioè in più del 5% dei casi), il riconoscimento facciale ha trovato una corrispondenza (in realtà inesistente) tra i volti del Congresso e quelli dei criminali.

Gli errori hanno coinvolto uomini e donne, politici democratici e repubblicani, bianchi, ispanici e afroamericani. Ma il tasso di false corrispondenze è stato molto più alto tra i parlamentari di colore. Costituiscono un quinto del Congresso, ma sono stati coinvolti nel 39% degli errori di Rekognition.

Numeri che, secondo la Aclu, dimostrerebbero quanto le libertà civili (in particolar modo di alcuni gruppi etnici) siano esposte alle tecnologie per il riconoscimento facciale. Il simbolo di questi rischi e’ un nome che di battaglie per i diritti se ne intende: tra i 28 parlamentari identificati come criminali c’e’ John Lewis, oggi membro della Camera dei Rappresentanti per lo Stato della Georgia, e nel 1963 tra i leader della Marcia su Washington, accanto a Martin Luther King.

“Se le forze dell’ordine usassero Amazon Rekognition – afferma la Aclu – non è difficile immaginare” un futuro in cui le persone verranno “interrogate” o “perquisite” solo perché un software ha trovato “una corrispondenza” tra il loro viso e quelli di un archivio di criminali. “Un’identificazione, che sia accurata o meno, potrebbe costare loro la liberta’ o persino la vita”.
Un problema che, secondo l’associazione, rischia di aggravarne un altro: “Le persone di colore sono gia’ danneggiate in modo sproporzionato dalle pratiche della polizia. Ed e’ facile vedere come Rekognition possa peggiorare le cose”.
L’organizzazione chiede quindi che “il Congresso esamini seriamente queste minacce, morda il freno e attui una moratoria sull’uso del riconoscimento facciale da parte delle forze dell’ordine. Questa tecnologia non dovrebbe essere utilizzata fino a quando non ci saranno tutte le misure necessarie per evitare che danneggino le comunità vulnerabili”.  L’esperimento dell’American Civil Liberties Union non è uno studio ampio. Ma, scrive l’organizzazione, non è neppure “un esercizio ipotetico”.

Rekognition è già stato testato da alcune città americane, tra le quali Orlando. Proprio in seguito ai test della città, l’Aclu aveva inviato una lettera al ceo di Amazon Jeff Bezos, esprimendo “grande preoccupazione”, parlato di “minaccia per la libertà” e chiedendo al fondatore del gruppo di bloccare la fornitura di Rekognition. Da Bezos non è arrivata alcuna risposta. La polizia di Orlando ha prima spiegato i particolari della sperimentazione, sottolineando quando sarebbe utile l’applicazione di questa tecnologia su vasta scala. Un mese dopo, a fine giugno, ha però sospeso i test.