IBM non offrirà più, svilupperà o ricerca la tecnologia di riconoscimento facciale


IBM non offrirà più software per il riconoscimento facciale o l'analisi per scopi generici, ha affermato Arvind Krishna, CEO di IBM una lettera al Congresso oggi. Inoltre, la società non svilupperà o effettuerà più ricerche sulla tecnologia, afferma IBM The Verge. Krishna ha inviato la lettera a Sens. Cory Booker (D-NJ) e Kamala Harris (D-CA) e Rep. Karen Bass (D-CA), Hakeem Jeffries (D-NY) e Jerrold Nadler (D-NY).

"IBM si oppone fermamente e non perdonerà l'uso di alcuna tecnologia (riconoscimento facciale), inclusa la tecnologia di riconoscimento facciale offerta da altri fornitori, per la sorveglianza di massa, la profilazione razziale, le violazioni dei diritti umani e delle libertà di base o qualsiasi scopo che non sia coerente con il nostro valori e Principi di fiducia e trasparenza", Krishna ha detto nella lettera. "Riteniamo che sia giunto il momento di avviare un dialogo nazionale su se e come la tecnologia di riconoscimento facciale dovrebbe essere impiegata dalle forze dell'ordine nazionali".

Il software di riconoscimento facciale è notevolmente migliorato nell'ultimo decennio grazie ai progressi dell'intelligenza artificiale. Allo stesso tempo, la tecnologia, poiché è spesso fornita da società private con scarsa regolamentazione o supervisione federale, ha dimostrato di soffrire di pregiudizi in termini di età, razza ed etnia, che possono rendere gli strumenti inaffidabili per l'applicazione della legge e sicurezza e maturi per potenziali violazioni dei diritti civili.

Uno studio del National Institute of Standards and Technology del dicembre 2019 ha rilevato "prove empiriche dell'esistenza di una vasta gamma di accuratezza attraverso le differenze demografiche nella maggior parte degli attuali algoritmi di riconoscimento facciale che sono stati valutati", ad esempio. La tecnologia è stata anche messa a fuoco per il suo ruolo nelle violazioni della privacy.

In particolare, lo studio del NIST non ha incluso la tecnologia di Amazon, che è una delle poche grandi aziende tecnologiche a vendere software di riconoscimento facciale alle forze dell'ordine. Eppure Rekognition, il nome del programma, è stato anche criticato per la sua precisione. Nel 2018, l'American Civil Liberties Union ha scoperto che Rekognition ha erroneamente abbinato 28 membri del Congresso a volti scelti tra 25.000 foto pubbliche, ad esempio.

Un'altra società, Clearview AI, è stata sottoposta a un attento esame a partire dall'inizio di quest'anno quando è stato scoperto che il suo strumento di riconoscimento facciale, costruito con oltre 3 miliardi di immagini compilate in parte da siti di social media, veniva ampiamente utilizzato dalle società del settore privato e dalle forze dell'ordine. Da allora Clearview è stato emesso numerosi ordini di cessazione e desistere ed è al centro di numerose cause legali sulla privacy. A gennaio a Facebook è stato anche ordinato di pagare $ 550 milioni per risolvere una causa di azione collettiva per l'uso illegale della tecnologia di riconoscimento facciale.

IBM ha cercato di aiutare con il problema della distorsione nel riconoscimento facciale, rilasciando un set di dati pubblici nel 2018 progettato per aiutare a ridurre la distorsione come parte dei dati di allenamento per un modello di riconoscimento facciale. Tuttavia, è stato scoperto che IBM ha condiviso un set di dati di formazione separato di quasi un milione di foto scattate da Flickr senza il consenso dei soggetti, anche se le foto sono state condivise con una licenza Creative Commons. IBM ha detto The Verge in una dichiarazione al momento che il set di dati sarebbe stato accessibile solo da ricercatori verificati e includeva solo immagini che erano pubblicamente disponibili. La società ha anche affermato che le persone possono rinunciare al set di dati.

Nella sua lettera, Krishna ha anche sostenuto la riforma della polizia, sostenendo che un maggior numero di casi di cattiva condotta della polizia dovrebbe essere posto sotto la giurisdizione del tribunale federale e che il Congresso dovrebbe apportare modifiche alla dottrina dell'immunità qualificata, tra le altre misure. Inoltre, Krishna ha affermato che "dobbiamo creare percorsi più aperti ed equi affinché tutti gli americani acquisiscano competenze e formazione commerciabili" e ha suggerito al Congresso di prendere in considerazione la possibilità di ridimensionare il modello scolastico P-TECH a livello nazionale e di ampliare l'idoneità per Pell Grants.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *