La metà di tutti i moderatori di Facebook può sviluppare problemi di salute mentale

A novembre 2018 ho ricevuto un messaggio che mi ha cambiato la vita. Una persona che lavora come moderatore per Facebook a Phoenix attraverso una società chiamata Cognizant ha chiesto di mettersi al telefono e parlare di ciò che vedeva lì. Le sue esperienze mi hanno scioccato e dopo aver scritto di quello che lui e i suoi colleghi stavano vivendo The Verge, continuerebbero a scioccare molte più persone.

Era un ufficio in cui i moderatori avrebbero avuto attacchi di panico mentre erano ancora in allenamento, traumatizzati dall'esposizione quotidiana a gore e altri posti di disturbo. Laddove le politiche sui contenuti in continua evoluzione e le richieste di accuratezza pressoché perfetta, potrebbero rendere impossibile il lavoro stesso. E dove mesi di vagliare le teorie della cospirazione hanno portato alcuni moderatori ad abbracciare punti di vista marginali, camminando attraverso l'edificio insistendo sul fatto che la terra è piatta.

Ho scritto delle esperienze di una dozzina di moderatori attuali ed ex nel sito di Phoenix lo scorso febbraio. Alcuni mesi dopo, dopo aver saputo dai dipendenti che le condizioni del sito di Cognizant a Tampa erano ancora più tristi, ho viaggiato lì e ho parlato con una dozzina di lavoratori in più. Lì ho saputo di un moderatore stressato che è morto a causa di un infarto alla sua scrivania all'età di 42 anni. Ho appreso di molteplici cause per molestie sessuali che erano state presentate contro vari lavoratori sul sito. E ho incontrato tre ex moderatori coraggiosi che hanno violato i loro accordi di non divulgazione per descrivere le loro condizioni di lavoro sulla fotocamera.

A quel punto una causa di un ex moderatore di nome Selena Scola, che accusava Facebook di creare un posto di lavoro non sicuro che le aveva causato problemi di salute mentale, si stava facendo strada attraverso i tribunali. E venerdì, gli avvocati hanno presentato una transazione preliminare nel caso. Ne ho scritto oggi a The Verge:

In un punto di riferimento riconosciuto del pedaggio che la moderazione dei contenuti assume sulla sua forza lavoro, Facebook ha accettato di pagare $ 52 milioni ai moderatori attuali e precedenti per compensarli per problemi di salute mentale sviluppati sul posto di lavoro. In una transazione preliminare depositata venerdì presso la corte superiore di San Mateo, il social network ha accettato di risarcire i danni ai moderatori americani e di fornire loro più consulenza mentre lavorano.

Ogni moderatore riceverà un minimo di $ 1.000 e avrà diritto a un risarcimento aggiuntivo se viene diagnosticato un disturbo da stress post-traumatico o condizioni correlate. L'insediamento copre 11.250 moderatori e, nel caso, gli avvocati ritengono che almeno la metà di essi possa avere diritto a un compenso aggiuntivo relativo a problemi di salute mentale associati al tempo trascorso a lavorare su Facebook, inclusi depressione e dipendenza.

"Siamo così contenti che Facebook abbia lavorato con noi per creare un programma senza precedenti per aiutare le persone a svolgere un lavoro inimmaginabile anche pochi anni fa", ha dichiarato Steve Williams, avvocato per i querelanti, in una nota. "Il danno che può essere subito da questo lavoro è reale e grave."

Dopo un anno di rapporti sulla vita di questi moderatori – ho anche profilato persone che svolgono il lavoro per Google e YouTube – mi è sembrato chiaro che una percentuale di persone che lavorano come moderatori subiranno conseguenze a lungo termine sulla salute mentale. Ma qual è quella percentuale?

L'anno scorso ho pubblicato l'audio trapelato da una riunione a mani libere di Facebook in cui il CEO Mark Zuckerberg ha riconosciuto questa gamma di esperienze. "All'interno di una popolazione di 30.000 persone, ci sarà una distribuzione di esperienze che le persone hanno", ha detto Zuckerberg, riferendosi al numero di persone che Facebook sta lavorando su questioni di fiducia e sicurezza in tutto il mondo. "Vogliamo fare tutto il possibile per assicurarci che anche le persone che stanno vivendo le peggiori esperienze, ci stiamo assicurando di supportarle nel miglior modo possibile".

Uno degli aspetti più interessanti delle notizie di oggi è che inizia a rispondere alla domanda su quanti moderatori sono interessati. La progettazione di un accordo richiedeva che gli avvocati di Facebook e i querelanti stimassero quante persone avrebbero presentato reclami. E il numero è molto più alto di quanto immaginassi.

Questa causa riguarda solo le persone che hanno lavorato per Facebook tramite distributori di terze parti negli Stati Uniti dal 2015 ad oggi, un gruppo le cui dimensioni sono stimate a 11.250 persone. (Una causa simile è ancora in corso in Irlanda che coprono i lavoratori europei.) Sia Facebook che gli avvocati sono stati consultati con esperti in stress post-traumatico e traumi vicari. Sulla base di tali discussioni, un avvocato per le querelanti mi ha detto, almeno metà dei membri della classe devono beneficiare di pagamenti aggiuntivi.

In altre parole, se diventi un moderatore di Facebook, un precedente legale suggerisce che hai una possibilità su due di subire conseguenze negative sulla salute mentale per fare il lavoro.

Forse queste probabilità diminuiranno quando Facebook implementerà alcune delle altre modifiche che hanno concordato nell'insediamento, come fornire più consulenza e offrire agli operatori strumenti per regolare il contenuto che stanno visualizzando – trasformandolo in bianco e nero, disattivando l'audio di impostazione predefinita e così via. Ma il rischio per le vite umane è reale e non sta andando via.

Un altro aspetto da considerare: quanto verrà pagato il moderatore medio a seguito dell'accordo? La cifra di $ 52 milioni è meno impressionante se si considera che il 32,7% è stato stanziato per gli avvocati nel caso, lasciando $ 35 milioni lasciati a tutti gli altri.

L'insediamento è stato progettato per compensare i moderatori nei livelli. Il primo livello garantisce $ 1.000 a tutti, nella speranza che i moderatori utilizzino i soldi per ottenere un controllo di salute mentale da un medico. Per coloro a cui è stata recentemente diagnosticata o che hanno già diagnosi, la transazione fornisce ulteriori $ 1.500 a $ 6.000 in base alla gravità dei loro casi. E poi i moderatori possono anche presentare prove della sofferenza subita a causa del loro lavoro per vincere fino a $ 50.000 a persona in danni.

Le somme potrebbero essere tutte molto inferiori a seconda di quanti membri della classe si applicano e si ritengono ammissibili a benefici oltre i primi $ 1.000. Se metà della classe fosse ritenuta ammissibile per ulteriori benefici per la salute mentale e ricevesse una compensazione uguale – il che non sarà il caso, ma potrebbe essere utile ai fini della stima del ballpark – ci sarebbero $ 4.222,22 disponibili per moderatore.

Nelle mie risposte su Twitter, molte persone hanno contestato le dimensioni del pagamento, sostenendo che avrebbe dovuto essere molto più elevato. Qui, per esempio, c'è la persona che chiamato l'insediamento "Un giorno di fluttuazione casuale del mercato degli utili per Facebook". Non discuterò qui: molti di questi ruoli di moderazione dei contenuti sono essenzialmente lavori di primo intervento, non così diversi come si potrebbe pensare da agenti di polizia e paramedici, e meritano un risarcimento e benefici più vicini in linea con il servizio che forniscono e il rischi che corrono.

Ho chiamato Shawn Speagle, un ex moderatore di Facebook che lavorava nel sito di Tampa, per dirmi cosa pensava. Speagle, che non era coinvolto nella causa, ha lavorato per Cognizant da marzo a ottobre 2018. Durante quel periodo, è stato esposto a video di violenza estrema e abuso di animali su base quasi quotidiana, e ha iniziato a mangiare troppo e a sperimentare terrori notturni . Dopo essere stato licenziato, gli è stato diagnosticato il PTSD.

Disse che un anno di cure psichiatriche lo avevano aiutato significativamente con i suoi sintomi, ma anche che le cose che aveva visto continuano a perseguitarlo. "È stata una corsa molto lunga", mi ha detto Speagle martedì. "È stato molto difficile dimenticare molte cose del genere. Non lo fai mai – ti rimane solo per sempre. Anche se è stato appena visto su uno schermo, quelle vite non torneranno mai più. Vorrei solo che Facebook lo riconoscesse. "

Speagle ha detto che a volte si sentiva in imbarazzo nel descrivere il suo PTSD ad altri, preoccupandosi di non credere che una persona potesse sviluppare la condizione esaminando i post di Facebook. "Ci sono state molte volte in cui è stato umiliante", ha detto. Ma gli psichiatri lo hanno aiutato a capire che il fenomeno è noto come trauma vicario – guardare gli altri provare dolore – è reale e può essere pericoloso. Da allora è diventato un insegnante di scuola pubblica.

Gli ho chiesto cosa ne pensasse del pagamento a cui ora poteva beneficiare.

"Starei bene senza soldi", mi disse Speagle. “Volevo solo portarlo avanti. Quando ho svolto il lavoro su Facebook, mi è stato detto che stavo rendendo il mondo un posto migliore per animali e giovani. Il motivo per cui mi sono fatto avanti è stato quello di rimanere fedele a quello. Il denaro e una causa non hanno nulla a che fare con quello che ho fatto. "

Il rapporto

Oggi nelle notizie che potrebbero influenzare la percezione pubblica delle grandi piattaforme tecnologiche.

Tendenza: Instagram sta lanciando nuove funzionalità volte a rendere la piattaforma uno spazio più positivo. La società afferma che sta implementando la possibilità di eliminare fino a 25 commenti contemporaneamente e anche di bloccare o limitare più account contemporaneamente. (Ashley Carman / The Verge)

Tendenza: Jack Dorsey ha donato $ 15 milioni al fondo di soccorso del coronavirus di San Francisco. Il denaro aiuterà le famiglie prive di documenti e a basso reddito alle prese con la pandemia. (Dominic Fracassa / Cronaca di San Francisco)

Localizzatore di virus

Totale casi negli Stati Uniti: Più di 1.354.300

Morti totali negli Stati Uniti: Almeno 80.600

Casi segnalati in California: 69.520

Risultati dei test totali (positivi e negativi) in California: 991.897

Casi segnalati a New York: 342.267

Risultati dei test totali (positivi e negativi) a New York: 1.204.651

Casi segnalati nel New Jersey: 139.945

Risultati dei test totali (positivi e negativi) nel New Jersey: 425.933

Casi segnalati in Illinois: 79.123

Risultati dei test totali (positivi e negativi) in Illinois: 442.425

Dati da Il New York Times. Dati di test da The COVID Tracking Project.

governare

⭐ Facebook sta lavorando per lanciare un nuovo gruppo di difesa politica che dovrebbe combattere i regolatori che cercano di frenare il settore tecnologico. La mossa intensifica la battaglia della Silicon Valley con Washington nel momento in cui i funzionari del governo minacciano ancora di sciogliere le grandi aziende. Tony Romm presso Il Washington Post ha la storia:

L'organizzazione si chiama American Edge e mira attraverso una raffica di pubblicità e altre spese politiche per convincere i responsabili politici che la Silicon Valley è essenziale per l'economia degli Stati Uniti e il futuro della libertà di parola, secondo tre persone che hanno familiarità con la questione e documenti recensito da The Washington Post. La gente ha parlato a condizione di anonimato per descrivere il gruppo perché non è stato annunciato ufficialmente.

A dicembre, American Edge si è costituita come organizzazione senza scopo di lucro e il mese scorso ha registrato una fondazione di accompagnamento, secondo i documenti di costituzione depositati in Virginia. L'impostazione essenzialmente gli consente di navigare in un folto di leggi fiscali in modo da poter raccogliere fondi e blitz le onde radio con annunci pubblicitari, senza l'obbligo di divulgare tutti i suoi donatori. Molti potenti attori politici – inclusa la National Rifle Association – operano allo stesso modo con l'aiuto di gruppi di "welfare sociale".

Facebook ha pubblicato un nuovo rapporto che illustra in dettaglio come utilizza una combinazione di intelligenza artificiale e verificatori di fatti umani per applicare gli standard della propria comunità. La società si affida maggiormente all'intelligenza artificiale per i suoi sforzi di moderazione. Ma alcuni contenuti, come meme e video, possono essere difficili da analizzare per l'IA. (Nick Statt / The Verge)

Le proteste anti-blocco in Australia sono state alimentate da una teoria della cospirazione Facebook gruppo. I membri hanno suggerito, erroneamente, che Bill Gates è dietro la pandemia di coronavirus e hanno cantato "arrestare Bill Gates" in una recente manifestazione. (Cameron Wilson / BuzzFeed)

La ricercatrice di disinformazione Renée DiResta afferma che desidera che le aziende tecnologiche espandano la loro definizione di chi conta come fonte autorevole. In questo Q&A discute di come le piattaforme gestiscono la disinformazione del coronavirus e dove potrebbero fare di più. (Berkman Klein Center)

Secondo un rapporto inedito della Casa Bianca, i tassi di infezione da coronavirus sono in aumento nelle comunità del cuore. Le notizie sono in contrasto con Il presidente Trump dichiarazione all'inizio di questa settimana che "in tutto il paese, i numeri scendono rapidamente". (Jonathan Allen, Phil McCausland e Cyrus Farivar / NBC)

Tre giorni dopo che un importante aiutante della Casa Bianca è risultato positivo per COVID-19, ai funzionari del governo che lavorano nell'ala ovest viene ordinato di indossare maschere. La regola non si applica al presidente Trump, tuttavia. (Ashley Parker, Josh Dawsey e Philip Rucker / Il Washington Post)

Ecco come è essere un tracker di contatto negli Stati Uniti. Queste persone hanno il compito di rintracciare coloro che potrebbero essere stati infettati da COVID-19. (James Temple e Bobbie Johnson / Revisione della tecnologia del MIT)

Quasi il 40 percento degli islandesi utilizza un'app di tracciamento dei contatti, il numero più alto di qualsiasi Paese. Nonostante l'uso diffuso, gli esperti affermano che l'impatto dell'app è stato ridotto rispetto alle tecniche di tracciamento manuale come le telefonate. Come ti abbiamo detto, sarebbe stato un mese fa. (Bobbie Johnson / Revisione della tecnologia del MIT)

La Federal Trade Commission ha indicato che sta esaminando i reclami relativi alla privacy Ingrandisci. I legislatori hanno espresso preoccupazioni sul modo in cui Zoom raccoglie e archivia i dati degli utenti. (Reuters)

Quanto sarebbe grande un ologramma di Joe Biden deve essere per ogni persona negli Stati Uniti continentali vederlo? Circa 1.400 miglia di altezza, o 255 Monte Everest accatastati l'uno sull'altro. Se non sei chiaro sul motivo per cui questo è attualmente oggetto di dibattito, potresti non rimanere coinvolto. (Makena Kelly / The Verge)

Industria

⭐ Jack Dorsey detto cinguettio i dipendenti potranno lavorare da casa per sempre, anche dopo che la pandemia di coronavirus è passata. Alcuni lavori che richiedono la presenza fisica, come la manutenzione dei server, richiederanno comunque l'ingresso dei dipendenti. Questa è una buona cosa, ma anche tra qualche anno Twitter si renderà sicuramente conto che ha diverse centinaia di dipendenti nel libro paga che hanno non ha funzionato per l'azienda da anni. Ecco Alex Kantrowitz a Buzzfeed:

cinguettio incoraggiato i suoi dipendenti iniziare a lavorare da casa all'inizio di marzo quando il coronavirus ha iniziato a diffondersi negli Stati Uniti. Molti altri aziende tecnologiche ha fatto lo stesso, inclusi Microsoft, Google e Amazon.

Quel mese, Jennifer Christie, responsabile delle risorse umane di Twitter, ha dichiarato a BuzzFeed News che la società "non sarà probabilmente più la stessa" nella struttura del suo lavoro. "Le persone che erano reticenti a lavorare in remoto scopriranno che prosperano davvero in quel modo", ha detto Christie. "I manager che non pensavano di poter gestire team remoti avranno una prospettiva diversa. Penso che non torneremo indietro. "

cinguettio aggiunto ex Google Fei-Fei Li capo dell'IA al suo consiglio di amministrazione. Li ha lasciato Google dopo essere stata messa sotto accusa per il suo ruolo nei contratti militari dell'azienda, che ha scatenato le proteste dei dipendenti e alla fine ha portato l'azienda ad abbandonare il progetto. (Tyler Sonnemaker / Business Insider)

Facebook spegnimento Instagram Lite, la sua app rivolta ai mercati emergenti. La società – che ha sempre caratterizzato l'app come un "test" – ha in programma di prendere ciò che ha appreso negli ultimi anni per sviluppare una nuova versione dell'app. (Sarah Perez / TechCrunch)

Notizie di Facebook editori sono preoccupati che il progetto possa essere scivolato fuori dalle principali priorità dell'azienda a causa della pandemia di coronavirus. Il Centro informazioni COVID-19 in particolare sembra essere stato implementato per risolvere esattamente il tipo di problema che la scheda Notizie era originariamente destinata a risolvere. (Max Willens / Digiday)

La pandemia di coronavirus e i successivi arresti hanno riportato il baratto mentre le persone commerciano merci Facebook gruppi. (Rachel Lerman / Il Washington Post)

In un'intervista che è stata immediatamente letta e condivisa da ogni giornalista che lavora, Quibi il co-fondatore Jeffrey Katzenberg ha incolpato l'inizio approssimativo dell'app di streaming sulla pandemia di coronavirus. "Attribuisco tutto ciò che è andato storto al coronavirus", ha detto. "Qualunque cosa." Lo stesso, Jeff, lo stesso. (Nicole Sperling / Il New York Times)

Gli hacker stanno impersonando Ingrandisci, Microsoft Squadre e Google Incontra truffe di phishing. Poiché significativamente più persone utilizzano gli strumenti durante la pandemia di COVID-19, i domini potrebbero essere utilizzati per indurre le persone a scaricare malware. (Jay Peters / The Verge)

Ordinare cibo da aziende locali è un buon modo per supportare l'industria della ristorazione nella tua zona. Ma è un po 'più complicato di quanto potresti pensare. Uno GrubHub l'utente ha cercato di ordinare la pizza da un presunto ristorante locale che si è rivelato essere un Chuck E. Cheese sotto copertura. Per la vergogna, Chuck E., per la vergogna. (Jelisa Castrodale / Enogastronomia)

Google Stadia è un posto solitario. Il servizio di cloud streaming di Google sembra uno stadio virtuale ancora in costruzione e la folla non è arrivata. (Tom Warren / The Verge)

Charli e Dixie D’Amelio sono partiti TikTok di Hype House. Le sorelle affermano di non avere carne bovina con i membri della casa, anche se Charli e uno dei fondatori si sono appena lasciati. (Starr Bowenbank / Cosmopolita)

LinkedIn ha lanciato uno strumento di eventi virtuali per consentire alle persone di creare e trasmettere incontri online sulla piattaforma. (Ingrid Lunden / TechCrunch)

Cose da fare

Roba da occuparti online durante la quarantena.

Leggi i libri di questi dirigenti tecnologici in questo momento.

Cerca di non uccidere la persona con cui vivi per una meschina lamentela. Leggere delle meschine lamentele altrui potrebbe essere d'aiuto.

Ascolta questo Vergecast episodio con me, limite redattore capo Nilay Patel e ex capo ufficio sicurezza di Facebook Alex Stamos. Abbiamo parlato di correzione di Zoom, disinformazione su piattaforme social, sicurezza elettorale e molto altro.

Partecipa a un festival virtuale di tre giorni su Festa in casa con i tuoi amici. L'allineamento è molto buono e comprende Keegan-Michael Key, Tinashe, Zooey Deschanel e Doja Cat.

Quei buoni tweet

E infine …

Questo è solo un altro tweet, ma volevo che avesse un posto d'onore oggi.

Parla con noi

Inviaci suggerimenti, commenti, domande e insediamenti di azioni collettive: casey@theverge.com e zoe@theverge.com.