Twitter dice che le sue immagini ritagliate non erano molto di parte, ma le sta comunque eliminando gradualmente

Twitter sta eliminando gradualmente il suo algoritmo di ritaglio delle immagini per mostrare anteprime più grandi e ha annunciato l’azienda che sta esaminando le accuse secondo cui il sistema era di parte. Ha scoperto che i raccolti erano leggermente sbilanciati verso determinate razze e generi, ma la lamentela principale di Twitter sembra essere che l’algoritmo non dà agli utenti il ​​controllo.

A partire dal 2018, Twitter ha iniziato a utilizzare l’algoritmo per ritagliare le immagini in modo che si adattassero ai riquadri di anteprima delle immagini. L’algoritmo cerca di determinare ciò che sarà visivamente più interessante per un utente in modo che possa includerlo nell’anteprima, ma alcuni lo hanno accusato di privilegiare i volti bianchi su quelli neri. Per determinare se è così, Twitter ha avuto alcuni dei suoi ricercatori produrre un rapporto analizzare le scelte che fa nella determinazione delle colture.

Durante i test per vedere se l’algoritmo avesse effettivamente pregiudizi razziali, i ricercatori hanno scoperto che l’algoritmo ha scelto di ritagliare le donne bianche rispetto alle donne nere il 7% delle volte e gli uomini bianchi rispetto agli uomini neri il 2% delle volte, con un totale di 4 preferenza percentuale per individui bianchi.

Twitter ha anche testato i pregiudizi di genere, cercando di vedere se l’algoritmo ha scelto di ritagliare gli uomini più delle donne e se ritagliava le immagini di donne in modo inappropriato (leggi: ritagliare intorno al petto o alle gambe di una donna, piuttosto che al suo viso). Ha scoperto che l’algoritmo favoriva le donne l’8% delle volte, ma non sembrava ritagliarle in modo pervertito: nel 3% circa dei casi in cui non si ritagliava sul viso di una donna, si era concentrato su cose come il numero di una maglia sportiva.

Un’immagine del report che mostra un ritaglio corretto e uno errato.
Immagine: Sì, Tantipongpipat, Mishra

Twitter ammette che gli algoritmi potrebbero ancora essere dannosi in altri modi che non sono stati testati e che fare affidamento sull’apprendimento automatico per ritagliare le immagini richiede molta libertà di azione da parte degli utenti. La società ha detto che trae la conclusione “che non tutto su Twitter è un buon candidato per un algoritmo, e in questo caso, come ritagliare un’immagine è una decisione presa al meglio dalle persone”.

Per consentire alle persone di prendere questa decisione, Twitter ha ingrandito le anteprime delle immagini nelle sue app iOS e Android, quindi l’algoritmo non deve prendere tante decisioni di ritaglio. Quando è necessario ritagliare un’immagine, ad esempio se l’immagine è molto alta o larga, all’utente verrà mostrata un’anteprima di come apparirà.

L’algoritmo di ritaglio non è completamente scomparso, specialmente nel caso di Twitter per il Web, dove abbondano ancora i ritagli di anteprima delle immagini, ma Twitter sembra sperare che nella maggior parte dei casi l’apprendimento automatico passi in secondo piano all’intuizione umana.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *