La previsione del crimine mantiene la società bloccata nel passato

Uno di esempi più notevoli dell’uso della tecnologia predittiva è la storia di Robert McDaniel, dettagliata dal giornalista Matt Stroud in the Verge a maggio 2021. McDaniel è residente ad Austin, un quartiere di Chicago che ha visto 72 omicidi, quasi 10 per cento del totale della città, solo nel 2020. Nonostante il fatto che McDaniel non avesse precedenti di violenza (era stato arrestato per aver venduto erba e aver sparato a dadi), un programma di polizia predittiva del dipartimento di polizia di Chicago ha stabilito nel 2013 che era una “persona di interesse”, letteralmente. Nel 2011-16 dramma criminale della CBS con quel nome, “la macchina”, creata dal protagonista dello spettacolo, può solo determinare che una persona sarà la vittima o l’autore di un crimine violento, ma non quale. Allo stesso modo, l’algoritmo utilizzato dal CPD indicava che McDaniel aveva più probabilità del 99,9 per cento della popolazione di Chicago di essere coinvolto in una sparatoria, anche se non era noto quale fosse il lato dell’arma con cui sarebbe stato.

Dotati di questa “conoscenza”, gli agenti di polizia di Chicago hanno inserito McDaniel nella loro lista di soggetti strategici, in seguito nota come “lista di calore”, e lo hanno tenuto d’occhio, nonostante non fosse sospettato di coinvolgimento in alcun crimine specifico. Poiché parte di quella sorveglianza era palese, suggeriva agli altri nel suo quartiere che poteva avere qualche tipo di collegamento con la polizia, che forse era un informatore, una reputazione tremendamente dannosa.

Com’era prevedibile, McDaniel è stato colpito due volte da quando è stato identificato per la prima volta dal CPD: la prima nel 2017, forse in parte a causa della pubblicità generata dalla sua apparizione quell’anno in un documentario tedesco, pre-crimine, che sperava avrebbe aiutato a cancellare il suo nome; e più recentemente nel 2020. Ha detto a The Verge che entrambe le sparatorie erano dovute alla stessa sorveglianza del CPD e al conseguente sospetto che stesse cooperando con le forze dell’ordine. “Secondo McDaniel”, scrive Stroud, “l’elenco di calore ha causato il danno che i suoi creatori speravano di evitare: prevedeva una sparatoria che non sarebbe avvenuta se non avesse previsto la sparatoria”.

Questo è abbastanza vero, ma c’è anche uno schema più profondo da osservare qui. A causa dei dati della polizia del passato, il quartiere di McDaniel, e quindi le persone al suo interno, sono stati etichettati come violenti. Il programma diceva poi che il futuro sarebbe stato lo stesso, cioè che non ci sarebbe stato un futuro, ma semplici reiterazioni del passato, più o meno identiche ad esso. Questa non è semplicemente una profezia che si autoavvera, sebbene lo sia certamente: è un sistema progettato per portare il passato nel futuro, e quindi impedire che il mondo cambi.

Il programma che McDaniel identificato sembra essere stato sviluppato specificamente per la CPD da un ingegnere dell’Illinois Institute of Technology, secondo precedente segnalazione di Stroud. Il programma CPD ha identificato circa 400 persone che hanno maggiori probabilità di essere coinvolte in crimini violenti e le ha messe in lista di calore. Quel programma è iniziato nel 2012 ed è stato interrotto nel 2019, come divulgato quell’anno in a Rapporto dell’autorità di vigilanza del governo della città di Chicago che ha sollevato preoccupazioni al riguardo, inclusa l’accuratezza dei suoi risultati e le sue politiche relative alla condivisione dei dati con altre agenzie. Secondo quanto riferito, l’algoritmo CPD personalizzato si è concentrato sugli individui e probabilmente assomiglia a una vasta gamma di programmi utilizzati dalle forze dell’ordine e dai militari di cui il pubblico ha poca conoscenza. Ad esempio, nel 2018, il giornalista Ali Winston ha riferito su The Verge che la società di sorveglianza Palantir, fondata da Peter Thiel, era stata testando segretamente una tecnologia simile a New Orleans dal 2012 senza informare molti funzionari della città.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato.