Podcast di Sleepwalkers: l'intelligenza artificiale ci sta osservando e ci sta giudicando


Non guardare ora, ma l'intelligenza artificiale ti sta guardando. L'intelligenza artificiale ha un enorme potere di rafforzare lo spionaggio e sia i governi autoritari che le democrazie stanno adottando la tecnologia come strumento di controllo politico e sociale.

Il potenziale della sorveglianza dell'IA è il tema di terza rata del Sleepwalkers podcast. L'episodio esamina il modo in cui l'IA consolida potenza e controllo e chiede se possiamo limitare questa tendenza preoccupante.

I dati raccolti da app e siti Web aiutano già a ottimizzare gli annunci e i social feed. Gli stessi dati possono anche rivelare la vita personale e le tendenze politiche di qualcuno alle autorità. La tendenza sta avanzando grazie a smartphone, fotocamere intelligenti e intelligenza artificiale più avanzata.

Un algoritmo sviluppato a Stanford nel 2017 ha affermato di dire da una fotografia se una persona è gay. Accurato o no, tale strumento crea una nuova opportunità di persecuzione.

"Prendi questo tipo di tecnologia, alimentalo in un sistema di sorveglianza CCTV in tutta la città e vai in un posto come l'Arabia Saudita dove essere gay è considerato un crimine", afferma Lisa Talia Moretti, un sociologo digitale. "Improvvisamente stai tirando fuori le persone dalla strada e arrestandole perché sei gay, perché il computer ha detto così."

Nessun paese ha abbracciato il riconoscimento facciale e la sorveglianza dell'intelligenza artificiale quanto la Cina. L'industria dell'intelligenza artificiale ha prosperato grazie alla forte concorrenza e all'accesso senza rivali ai dati personali, e l'ascesa dell'IA sta consentendo un più stretto controllo da parte del governo su informazioni, parole e libertà.

In alcune città cinesi, il riconoscimento facciale viene utilizzato per catturare i criminali nei filmati di sorveglianza e per vergognare pubblicamente coloro che commettono reati minori. Più preoccupante, l'IA viene utilizzata nello Xinjiang, una provincia della Cina occidentale, per perseguitare i musulmani. La Cina sta ora esportando la tecnologia, insieme ai principi della tecno-repressione, in paesi come Pakistan, Cambogia e Laos, attraverso la sua Belt and Road Initiative.

Anche se le capacità di intelligenza artificiale della Cina sono esagerate, il boom dell'IA ha un effetto agghiacciante sulla libertà personale, afferma Ian Bremmer, esperto di rischio politico globale e fondatore del Gruppo Eurasia. "Hai solo bisogno di un governo che sta cominciando a ottenere quella capacità e farla conoscere, e hanno alcune persone che sono un po 'messe insieme come esempi e improvvisamente tutti hanno paura", dice.

Continua a leggere

Potrebbe sembrare una realtà lontana, ma strumenti simili vengono sviluppati e utilizzati in Occidente. Basta chiedere a Glenn Rodriguez, che ha affrontato il giudizio di un algoritmo quando ha cercato la condanna dalla prigione negli Stati Uniti.

Nonostante 10 anni di buoni comportamenti, Rodriguez ha visto come veniva chiamato un algoritmo COMPAS, progettato per prevedere la probabilità di recidiva dei detenuti, sarebbe di parte contro di lui. E anche se la scheda di libertà condizionale era contraria al consiglio del programma per computer e lo ha liberato, hanno accettato di imporre il coprifuoco raccomandato dall'algoritmo. "Sono ancora perseguitato da COMPAS", avverte Rodriguez.

Le forze dell'ordine stanno abbracciando l'IA. L'episodio si conclude con le tecnologie di test del dipartimento di polizia di New York, incluso il riconoscimento facciale. E sebbene l'IA prometta di rendere il dipartimento più efficace e persino più responsabile, se accettiamo questa tendenza preoccupante può determinare se le sonnambulismo occidentali verso la propria forma di tirannia tecnologica.

"In America, la libertà che diamo per scontata è difficile e fragile", afferma Oz Woloshyn, l'host di Sleepwalkers. "Tante cose sono in bilico e le decisioni che prendiamo influenzeranno profondamente le nostre vite e risuoneranno nelle vite dei nostri figli".


Altre fantastiche storie CABLATE

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *