Twitter inizia ad analizzare gli impatti dannosi dei suoi algoritmi

Twitter sta avviando una nuova iniziativa, Machine learning responsabile, per valutare eventuali “danni involontari” causati dai suoi algoritmi. Un team di ingegneri, ricercatori e data scientist in tutta l’azienda studierà come l’uso di Twitter dell’apprendimento automatico può portare a pregiudizi algoritmici che hanno un impatto negativo sugli utenti.

Uno dei primi compiti è una valutazione del pregiudizio razziale e di genere nell’algoritmo di ritaglio delle immagini di Twitter. Gli utenti di Twitter hanno sottolineato che le anteprime delle foto ritagliate automaticamente sembrano favorire i volti bianchi rispetto ai volti neri. Il mese scorso, la società ha iniziato a testare la visualizzazione di immagini complete anziché anteprime ritagliate.

Il team esaminerà anche come le raccomandazioni della cronologia differiscono tra i sottogruppi razziali e analizzerà le raccomandazioni sui contenuti tra le ideologie politiche nei diversi paesi. Twitter afferma che “lavorerà a stretto contatto” con ricercatori accademici di terze parti e condividerà i risultati delle sue analisi e chiederà feedback al pubblico.

Non è chiaro quale impatto avranno i risultati. Twitter afferma che “potrebbero non tradursi sempre in modifiche visibili del prodotto”, ma semplicemente portando a “una maggiore consapevolezza e discussioni importanti” su come l’azienda utilizza l’apprendimento automatico.

La decisione di Twitter di analizzare i propri algoritmi per i pregiudizi segue altri social network come Facebook, che hanno formato team simili nel 2020. C’è anche una pressione continua da parte dei legislatori per tenere sotto controllo i pregiudizi algoritmici delle aziende.

Twitter è anche nelle prime fasi di esplorazione della “scelta algoritmica”, che potenzialmente consentirà alle persone di avere più input su quale contenuto viene loro offerto. L’amministratore delegato Jack Dorsey ha dichiarato a febbraio di immaginare una “visione simile a un app store degli algoritmi di ranking”, da cui le persone potranno scegliere quali algoritmi controllano i propri feed.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *