Gli americani hanno bisogno di una carta dei diritti per un mondo basato sull’intelligenza artificiale

Nel passato decennio, le tecnologie basate sui dati hanno trasformato il mondo che ci circonda. Abbiamo visto cosa è possibile raccogliere grandi quantità di dati e addestrare l’intelligenza artificiale a interpretarli: computer che imparano a tradurre le lingue, sistemi di riconoscimento facciale che sbloccano i nostri smartphone, algoritmi che identificano i tumori nei pazienti. Le possibilità sono infinite.

Ma questi nuovi strumenti hanno anche portato a seri problemi. Ciò che le macchine apprendono dipende da molte cose, inclusi i dati utilizzati per addestrarle.

I set di dati che non riescono a rappresentare la società americana possono tradursi in assistenti virtuali che non capisco accenti del sud; tecnologia di riconoscimento facciale che porta a arresti illeciti e discriminatori; e algoritmi sanitari che scontano la gravità della malattia renale negli afroamericani, impedendo alle persone di ottenere trapianti di rene.

Le macchine per l’addestramento basate su esempi precedenti possono incorporare i pregiudizi del passato e consentire la discriminazione dei giorni nostri. Assumere strumenti che scopri le caratteristiche dei dipendenti di un’azienda può rifiutare candidati che sono dissimili dal personale esistente nonostante siano ben qualificati, ad esempio programmatrici di computer. Algoritmi di approvazione del mutuo determinare il merito di credito può facilmente dedurre che alcuni codici postali domestici sono correlati a razza e povertà, estendendo decenni di discriminazione abitativa nell’era digitale. L’intelligenza artificiale può consigliare il supporto medico per i gruppi che accedono più spesso ai servizi ospedalieri, piuttosto che per coloro che ne hanno più bisogno. Addestrare l’IA indiscriminatamente alle conversazioni su Internet può risultato in “analisi del sentimento” che vede le parole “nero”, “ebreo” e “gay” come negative.

Queste tecnologie sollevano anche interrogativi sulla privacy e sulla trasparenza. Quando chiediamo al nostro altoparlante intelligente di riprodurre una canzone, sta registrando? cosa dicono i nostri ragazzi? Quando uno studente sostiene un esame online, dovrebbe la webcam monitora e traccia ogni loro mossa? Abbiamo il diritto di sapere perché ci è stato negato un mutuo per la casa o un colloquio di lavoro?

Inoltre, c’è il problema dell’abuso deliberato dell’intelligenza artificiale. Alcune autocrazie usarlo come strumento di oppressione, divisione e discriminazione sponsorizzata dallo stato.

Negli Stati Uniti, alcuni dei fallimenti dell’IA possono essere non intenzionali, ma sono gravi e colpiscono in modo sproporzionato individui e comunità già emarginati. Spesso derivano dal fatto che gli sviluppatori di intelligenza artificiale non utilizzano set di dati appropriati e non controllano i sistemi in modo completo, oltre a non avere prospettive diverse attorno al tavolo per anticipare e risolvere i problemi prima vengono utilizzati prodotti (o per uccidere prodotti che non possono essere riparati).

In un mercato competitivo, può sembrare più facile prendere scorciatoie. Ma è inaccettabile creare sistemi di intelligenza artificiale che danneggeranno molte persone, così come è inaccettabile creare prodotti farmaceutici e altri prodotti, siano essi automobili, giocattoli per bambini o dispositivi medici, che danneggeranno molte persone.

Gli americani hanno il diritto di aspettarsi di meglio. Dovrebbero essere necessarie tecnologie potenti per rispettare i nostri valori democratici e rispettare il principio centrale che tutti dovrebbero essere trattati in modo equo. La codifica di queste idee può aiutare a garantire ciò.

Subito dopo aver ratificato la nostra Costituzione, gli americani hanno adottato un Bill of Rights per difendersi dal potente governo che avevamo appena creato, enumerando garanzie come la libertà di espressione e di riunione, i diritti a un giusto processo e processi equi e la protezione contro perquisizioni e sequestri irragionevoli. Nel corso della nostra storia abbiamo dovuto reinterpretare, riaffermare e periodicamente ampliare questi diritti. Nel 21° secolo, abbiamo bisogno di una “carta dei diritti” per difenderci dalle potenti tecnologie che abbiamo creato.

Il nostro Paese dovrebbe chiarire i diritti e le libertà che ci aspettiamo che le tecnologie basate sui dati rispettino. Cosa siano esattamente richiederanno una discussione, ma qui ci sono alcune possibilità: il tuo diritto di sapere quando e come l’IA sta influenzando una decisione che riguarda i tuoi diritti civili e le tue libertà civili; la tua libertà dall’essere soggetto a un’intelligenza artificiale che non è stata attentamente verificata per garantire che sia accurata, imparziale e che sia stata addestrata su set di dati sufficientemente rappresentativi; la tua libertà da sorveglianza e monitoraggio pervasivi o discriminatori nella tua casa, comunità e posto di lavoro; e il tuo diritto a un ricorso significativo se l’uso di un algoritmo ti danneggia.

Naturalmente, l’enumerazione dei diritti è solo un primo passo. Cosa potremmo fare per proteggerli? Le possibilità includono il rifiuto del governo federale di acquistare software o prodotti tecnologici che non rispettano questi diritti, la richiesta agli appaltatori federali di utilizzare tecnologie che aderiscono a questa “carta dei diritti” o l’adozione di nuove leggi e regolamenti per colmare le lacune. Gli Stati potrebbero scegliere di adottare pratiche simili.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *