Facebook incoraggia l’incitamento all’odio a scopo di lucro, afferma il whistleblower

L’informatore dietro la fuga di un’enorme cache di documenti di Facebook al giornale di Wall Street, Frances Haugen, è diventato pubblico 60 minuti domenica, rivelando di più sui meccanismi interni della piattaforma di social media più potente al mondo. Rivelando la sua identità alla televisione nazionale, Haugen ha descritto un’azienda così impegnata nell’ottimizzazione del prodotto da abbracciare algoritmi che amplificano l’incitamento all’odio.

“Sta pagando i suoi profitti con la nostra sicurezza”, ha detto Haugen 60 minuti ospite Scott Pelley.

Secondo un profilo LinkedIn cancellato, Haugen era un product manager di Facebook assegnato al gruppo Civic Integretity. Ha scelto di lasciare l’azienda nel 2021 dopo lo scioglimento del gruppo. Ha detto che non “si fidava del fatto che fossero disposti a investire ciò che effettivamente deve essere investito per impedire a Facebook di essere pericoloso”.

Di conseguenza, ha fatto trapelare una cache di ricerche interne alla SEC nella speranza di guidare una migliore regolamentazione della società. Ha notato che aveva lavorato in una serie di aziende, tra cui Google e Pinterest, ma che “era sostanzialmente peggio su Facebook” a causa del desiderio dell’azienda di mettere i suoi profitti sul benessere dei suoi utenti

“C’era conflitto … tra ciò che era buono per il pubblico e ciò che era buono per Facebook”, ha detto Haugen a Pelley, “e Facebook ha scelto più e più volte di ottimizzare per i propri interessi, come fare più soldi”.

Mentre la società afferma ripetutamente che sta aiutando a fermare l’incitamento all’odio, almeno sui propri prodotti, un documento interno di Facebook trapelato da Haugen afferma: “Stimiamo che potremmo agire fino al 3-5% di odio e ~ 0,6% di V&I [Violence and Incitement] su Facebook nonostante sia il migliore al mondo in questo.”

Un altro documento era ancora più schietto. “Abbiamo prove da una varietà di fonti che l’incitamento all’odio, il discorso politico divisivo e la disinformazione su Facebook e la famiglia di app stanno influenzando le società di tutto il mondo”.

Haugen afferma che la radice del problema sono gli algoritmi lanciati nel 2018 che regolano ciò che vedi sulla piattaforma. Secondo lei sono pensati per guidare il coinvolgimento e l’azienda ha scoperto che il miglior coinvolgimento è il tipo che instilla paura e odio negli utenti. “È più facile ispirare le persone alla rabbia che ad altre emozioni”, ha detto Hagen.

All’epoca, Mark Zuckerberg ha presentato le modifiche all’algoritmo come positive. “Sentiamo la responsabilità di assicurarci che i nostri servizi non siano solo divertenti da usare, ma anche utili per il benessere delle persone”.

Ma secondo giornale di Wall StreetRiportando le preoccupazioni di Haugen, il risultato è stato una brusca svolta verso la rabbia e l’odio. “Disinformazione, tossicità e contenuti violenti sono eccessivamente prevalenti tra le ricondivisioni”, ha affermato una nota interna citata dal Journal, valutando gli effetti del cambiamento.

Il giornale di Wall Street ha iniziato a pubblicare la sua scoperta dalla cache con il nome “The Facebook Files” a settembre. Un rapporto secondo cui Facebook aveva una ricerca che dimostrava che Instagram ha danneggiato le ragazze adolescenti da allora ha portato a un’udienza del Congresso. Prima dell’udienza Facebook ha tentato di cambiare la narrativa in un post sul blog, che riproduceva due delle relazioni di cui al rivistala segnalazione.

prima del 60 minuti report, Facebook ha tentato le stesse deviazioni in una forma diversa. Il vicepresidente di Facebook Global Affair Nick Clegg è apparso sulla CNN Fonti affidabili per difendere la società la domenica pomeriggio, poche ore prima che apparisse Haugen.

“Penso che sia ridicolo”, ha detto Clegg dell’accusa che i social media siano stati responsabili delle rivolte del 6 gennaio. “Penso che dia alle persone un falso conforto presumere che ci debba essere una spiegazione tecnologica o tecnica per i problemi della polarizzazione politica negli Stati Uniti”.

Haugen ha concluso l’intervista chiedendo una regolamentazione dei social network più ampia, cosa che Facebook stesso ha chiesto in forma più limitata. lei è scpensato di comparire davanti a un Senato Commerce pannello martedì.