Lasciare la moderazione dei contenuti ai volontari sta dando potere ai razzisti


IO.

Di recente il presidente ha avuto un pessimo posto e molte persone si sono arrabbiate. Twitter ha nascosto il post dietro un avviso. Snap disse che non avrebbe più promosso l'account del presidente. Facebook ha detto che il post era male ma che sarebbe rimasto in piedi, e questo ha fatto impazzire molte persone su Facebook – impiegati attuali, appaltatori, ex dipendenti, e anche dipendenti della Chan Zuckerberg Initiative, che non lavorano per Facebook ma ne sono indirettamente finanziati.

Il post del presidente ha ispirato molto dibattito su ciò che conta come un incitamento alla violenza, sull'opportunità di espellere un capo di stato dalla propria piattaforma e sull'eventualità che le piattaforme vengano giocate dai fascisti. Sono tutte buone discussioni da avere, anche se sembrano perlopiù evitare un punto più ampio, che è che un'enorme quantità di discorsi politici ora traspare su una piattaforma utilizzata da 1,73 miliardi di persone al giorno e le cui regole sul discorso sono in definitiva decise e applicate da una sola persona: l'amministratore delegato di Facebook, Mark Zuckerberg, che controlla la maggior parte delle azioni dell'azienda.

Entro la fine dell'anno potresti fare ricorso se Facebook prende una decisione relativa al discorso che non va per la tua strada. Ma non hai alcun ricorso ora, e questo è uno dei motivi per cui quando le persone si arrabbiano con Facebook, tendono a ottenere veramente arrabbiato con Facebook. Sai di cosa dicono il rapporto tra giustizia e pace: non puoi averne uno senza l'altro, e mentre la moderazione dei contenuti di Facebook è buona in molte cose, è come chiamarla appena.

Una cosa che potresti fare se volessi distribuire il potere sulla parola in modo più ampio è affidarne una parte ai tuoi utenti. Una società che ha fatto questo con un certo successo è Reddit, che fissa un "piano" di regole del linguaggio (no spam!) ma consente ai singoli forum (chiamati subreddits) di alzare il "soffitto". Un subreddit religioso potrebbe vietare la maledizione, per esempio. O potrebbe un forum correlato ai pensieri sotto la doccia vietare la pubblicazione di pensieri non-doccia. Il discorso è molto più facilmente moderato quando le persone nella stanza hanno un contesto condiviso intorno a valori e interessi, e quindi "Voglio leggere i pensieri che le persone hanno sotto la doccia" è una discussione più efficace rispetto a "Vediamo cosa 1,73 miliardi di persone devono parlare di attualità. "

II.

Ma anche la moderazione basata sulla comunità crea ingiustizie. Sei anni fa, ad esempio, l'atteggiamento laissez-faire di Reddit verso la moderazione ha portato molte persone a pubblicare foto di nudo rubate sul sito senza il consenso dei soggetti. Reddit non lo consente più, ma ha permesso molti discorsi apertamente razzisti, compresi alcuni che persino la compagnia riconosce è inteso come un incitamento alla violenza. Un delinquente principale in tutto questo è un forum dedicato al presidente, che è stato "messo in quarantena" dietro una schermata di avvertimento da un anno ormai.

Mentre le proteste per l'uccisione di George Floyd da parte della polizia si sono diffuse in tutto il mondo, molte aziende hanno fatto dichiarazioni affermando un nuovo impegno nei confronti della comunità nera e dei suoi alleati. Reddit emesso tale affermazione la scorsa settimana. La compagnia ha affermato che onorerà la richiesta del co-fondatore in partenza Alexis Ohanian di sostituirlo con una persona di colore. E ha riconosciuto che storicamente è stato un paradiso per la diffusione dell'ideologia razzista. Ecco il CEO Steve Huffman:

Mentre ci siamo occupati di molte comunità stesse, non abbiamo ancora fornito la chiarezza – e questo ha dimostrato, sia nella nostra applicazione che nella confusione su dove ci troviamo. Nel 2018, ho detto confusamente il razzismo non è contro le regole, ma non è il benvenuto su Reddit. Questo divario tra la nostra politica sui contenuti e i nostri valori ha eroso la nostra efficacia nella lotta contro l'odio e il razzismo su Reddit; Accetto la piena responsabilità per questo. (…)

Nonostante abbia compiuto progressi significativi nel corso degli anni, dobbiamo rivolgerci allo specchio ed essere disposti a fare il duro lavoro per assicurarci di essere all'altezza dei nostri valori nei nostri prodotti e politiche. Questo è un momento significativo. Abbiamo una scelta: tornare allo status quo o utilizzare questa opportunità per il cambiamento. Noi di Reddit optiamo per quest'ultimo e faremo del nostro meglio per far parte del progresso.

In risposta, Huffman lo era chiamato dall'ex CEO di Reddit Ellen Pao per non aver agito prima contro i subreddit razzisti. Numerosi grandi subreddit si sono uniti per protestare contro il sito, vietando temporaneamente nuovi post o diventando privati ​​per impedire ai nuovi utenti di aderire.

Da allora il furore si è calmato, ma la maggior parte delle domande difficili rimangono senza risposta. Come attrarre, addestrare e trattenere un esercito di volontari per moderare i discorsi razzisti in tutti i forum su Reddit? Quanta parte della responsabilità dovrebbe appartenere ai singoli moderatori e quanto dovrebbe appartenere allo stesso Reddit? Quanta parte della delega dell'autorità di Reddit era in realtà solo un abbandono del dovere?

"Gran parte di ciò che sta accadendo ora si trova ai tuoi piedi", Pao disse Huffman. "Non puoi dire BLM quando Reddit alimenta e monetizza la supremazia bianca e odia tutto il giorno."

III.

Certo, decentralizzare la moderazione come fa Reddit non è una nuova idea per Facebook. In effetti, la società utilizza un approccio simile nei gruppi di Facebook, la propria opinione su forum più piccoli. Zuckerberg ha affermato che i gruppi rappresentano una priorità assoluta per l'azienda, quindi è un buon momento per verificare lo stato di moderazione.

Come su Reddit, i moderatori dei gruppi di Facebook possono alzare il tetto della moderazione per modellare la discussione e vietare determinati tipi di post. In The Verge, Ashley Carman ha una storia importante su come i gruppi di Facebook hanno gestito la recente ondata di contenuti relativi a Black Lives Matter. Moderatori più conservatori hanno adottato un approccio pesante per rimuovere tali messaggi – nessun pensiero non-doccia nel forum di pensieri doccia! Ma ciò ha indignato gli utenti che vedono le proteste in corso e le ingiustizie a cui stanno attirando l'attenzione come questioni di diritti umani fondamentali, degne di discussione in qualsiasi contesto che l'oratore ritenga rilevante.

Carman scrive:

Boss-Moms è uno dei tanti gruppi di Facebook alle prese con politiche di moderazione inadeguate mentre i membri tentano di discutere di Black Lives Matter. I gruppi, che spaziano dai videogiochi alla musica alle comunità locali, sono moderati da altri membri del gruppo. I moderatori non hanno una formazione formale da Facebook o da fonti esterne e prendono le proprie decisioni su quali contenuti sono e non sono consentiti. La maggior parte dei gruppi non ha alcun punto di riferimento su come dare voce a tutti, e questo ha portato alla lotta tra membri, persone che se ne vanno, gruppi temporaneamente chiusi e gruppi in pezzi.

Molti gruppi non hanno persone di colore come moderatori, aumentando il problema della moderazione. Roop Mangat appartiene a una coppia di gruppi di Facebook della comunità locale, uno in cui nessuna persona di colore o donna è moderatrice, e un altro che ha un moderatore di donna bianca che serve solo uomini bianchi. Mangat ha pubblicato lo stesso messaggio per entrambi i gruppi, esortando le persone a prendere sul serio il razzismo nella comunità. Uno di loro l'ha cancellato. "Pensano che qualcosa di" politico "non sia appropriato", mi dice su Twitter DM. "Tuttavia, consentono comunque la diffusione di post che includono pettegolezzi e informazioni false". Il gruppo ha minacciato di vietarla se avesse postato di nuovo.

Dopo che Carman ha pubblicato il suo pezzo, Facebook ha pubblicato nuovi consigli per i moderatori su come modellare le discussioni nei loro forum. Invece di vietare tutte le discussioni "politiche", ad esempio, i moderatori che vogliono evitare la politica sono incoraggiati a vietare "discussioni su legislazione, candidati politici o campagne specifiche". Suggerisce inoltre che i forum lavorano per essere più inclusivi e assumere un gruppo più diversificato di moderatori. L'elenco completo dei suggerimenti è riflessivo e vale la pena di leggerlo per intero, eppure dopo averlo letto – e aver visto un video incorporato sui pericoli del burnout dei moderatori volontari – posso immaginare alcuni moderatori che semplicemente dicono l'inferno e trovano un nuovo hobby. (Aviv Ovadya fatto; ha una bella lista di problemi che ha dovuto affrontare come amministratore di gruppi qui.)

Una dinamica simile si sta diffondendo sul social network di vicinato NextDoor, in cui un approccio moderato alla moderazione degli utenti ha lasciato molti utenti neri temendo per la propria sicurezza. Makena Kelly ha parlato con alcune di quelle persone a The Vergee ho scoperto come l'abbraccio fin troppo conveniente della moderazione della comunità da parte della società l'abbia lasciato con punti ciechi significativi.

Questo approccio pratico è ciò che rende Nextdoor in grado di essere grande quanto lo è. Esternalizzando la moderazione a volontari non formati e non retribuiti, l'azienda è stata in grado di espandersi oltre 200.000 quartieri attraverso il paese. Ma ha anche permesso ai membri della comunità di eliminare i post che a loro personalmente non piacciono. In tutto il paese, i post di Nextdoor pubblicizzano proteste pubblicitarie colpite dai moderatori della comunità mentre messaggi razzisti e infiammatori, alcuni chiedono violenza diretta contro i neri e i manifestanti, sono lasciati in piedi.

I lead non seguono alcuna formazione formale da parte di Nextdoor prima di ricevere l'autorità per colpire i post e le linee guida elencate sul sito sono abbastanza vaghe da consentire ai lead di interpretarli in modi diversi. Non ci sono regole che promuovano la diversità nella leadership di moderazione. In un forum privato, noto come National Leads Forum, come segnalato per la prima volta da BuzzFeed Notizie – alcuni moderatori della comunità sono stati infuriati dalla decisione di Nextdoor di sostenere il movimento Black Lives Matter. Più o meno nello stesso periodo in cui la società ha rilasciato la sua dichiarazione pubblica la scorsa settimana, quella stessa lingua è stata pubblicata sui feed di Nextdoor, facendo arrabbiare alcuni moderatori attivi nel forum privato.

"Mi piacerebbe vedere Nextdoor pubblicare un" argomento di vite bianche "(post)", ha scritto un moderatore di Orlando, in Florida. "A volte, dobbiamo ricordare" Tutte le vite contano! "

IV.

Ricapitolando: un approccio alla moderazione dei contenuti è affidare tutto il linguaggio umano a una sola persona, mettendo la base di utenti in balia delle loro decisioni senza alcun ricorso pratico. Un altro è affidare la moderazione a un gruppo di volontari non retribuiti, senza tener conto della diversità, della formazione o dei valori di quel gruppo, e sperare che non ti mettano troppo in imbarazzo lungo la strada.

Forse puoi aiutare a migliorare il sistema precedente istituendo un organo indipendente di esperti per offrire opinioni vincolanti su argomenti controversi. E forse puoi migliorare quest'ultimo offrendo ai volontari più formazione, più risorse per la salute mentale e denaro reale per il loro lavoro.

Ma mentre le discussioni sul razzismo e l'ingiustizia illuminano i forum su Internet, è chiaro che i meccanismi che le aziende hanno costruito fino ad oggi spesso non riescono a sostenere quella conversazione. Di conseguenza, le ingiustizie offline vengono replicate nel discorso online. Mentre la Silicon Valley riconsidera come le aziende possono supportare i neri, i loro alleati e altre comunità di minoranze, la moderazione dovrebbe essere al centro e al centro.

Il rapporto

⬆️ Tendenza in su: Tinder ha affermato che smetterebbe di vietare agli utenti di pubblicare raccolte fondi Black Lives Matter sui loro profili. Le politiche dell'azienda in genere vietano agli utenti di utilizzare i propri account per motivi promozionali. (Julia Reinstein / BuzzFeed)

⬆️ Tendenza in su: Le aziende tecnologiche stanno scrivendo grandi assegni per i gruppi che combattono l'ingiustizia razziale. Le azioni dureranno oltre il momento attuale? (Sofie Kodner / Protocollo)

⬆️ Tendenza in su: Instacart ottimizzato il suo prodotto per scoraggiare la "punta baiting". La gente stava assumendo gli acquirenti Instacart con la promessa di enormi suggerimenti e poi cancellando i suggerimenti dopo la consegna della spesa. (Nick Statt / The Verge)

⬇️ Tendenza verso il basso: Tre lavoratori di Amazon stanno facendo causa alla società sostenendo che non è riuscito a rintracciare e prevenire correttamente la diffusione di COVID-19 nei loro magazzini. (Annie Palmer / CNBC)

⬇️ Tendenza verso il basso: Almeno due lavoratori a contratto per Facebook affermano di essere stati licenziati dal loro datore di lavoro diretto, WiPro, dopo aver organizzato attività sindacali. (Caroline O’Donovan / BuzzFeed)

governare

Facebook e cinguettio rimosso un video omaggio della campagna Trump a George Floyd dopo un reclamo sul copyright. La rimozione ha innescato un nuovo round di tweet indignati da parte del presidente. Vlad Savov e Melissa Cheok riportano:

L'account @TeamTrump ha twittato un video collage di immagini e filmati che descrivono proteste pacifiche, momenti di lutto e forze dell'ordine che abbracciano civili a seguito dell'uccisione di George Floyd, un uomo afroamericano, mentre era sotto custodia della polizia. Accompagnato da una delicata colonna sonora per pianoforte e dal discorso del presidente Donald Trump su "guarigione, non odio", ha esortato gli americani a unirsi.

Il video, ancora disponibile per Visualizza sul canale YouTube del presidente, sembra aver raccolto la maggior parte dei suoi contenuti dai post dei social media e almeno un detentore del copyright ha presentato un reclamo a Twitter sull'uso della propria foto, un portavoce dell'azienda detto La collina.

Azioni intraprese contro Trump da cinguettio e schiocco hanno indotto la compagnia a prendere una posizione simile su altri politici di tutto il mondo. Le organizzazioni non governative affermano che le compagnie americane prestano la stessa attenzione a situazioni simili che si stanno verificando in India, Brasile e Myanmar, tra gli altri luoghi. (Pranav Dixit e Megha Rajagopalan / BuzzFeed)

cinguettio le pagine dei fan vengono riproposte per partecipare alle proteste di Black Lives Matter. Gli stan K-pop non hanno mai messo a frutto il loro ingente impegno. (Kaitlyn Tiffany / L'Atlantico)

Voci si diffondono Facebook l'America delle piccole città ha il terrore che autobus pieni di super-soldati antifa stiano per arrivare nelle loro città e causare caos. (Russell Brandom / The Verge)

Facebook sta rendendo più difficile trovare gruppi correlati a "Boogaloo", un'idea incoraggiata dai suprematisti bianchi che gli Stati Uniti sono sull'orlo di una seconda guerra civile. I gruppi non compariranno più nei consigli. Mi piacerebbe sapere quante persone si sono unite a questi gruppi dopo essere state consigliate fino ad oggi. (Joseph Menn / Reuters)

Facebook rimosso due reti di account non autentici a maggio. Le reti, basate in Tunisia e in Iraq, sembrano essere state utilizzate per diffondere propaganda e influenzare le elezioni.

Le grandi aziende tecnologiche stanno rispondendo alla morte di George Floyd in modo molto più aggressivo di quanto non abbiano fatto per la morte di Michael Brown e altre vittime nere della brutalità della polizia. (Jay Peters / The Verge)

Trump ha speso un record di 1,48 milioni di dollari Google pubblicità, la maggior parte dei soldi che la sua campagna ha speso in una settimana fino ad oggi. (Eric Newcomer e Mark Bergen / Bloomberg)

Nel frattempo, Joe Biden spesi $ 5 milioni per Facebook pubblicità negli ultimi giorni. (Shane Goldmacher / New York Times)

La sonda antitrust statunitense contro Google sta esplorando il suo prodotto di ricerca. DuckDuckGo ha affermato di aver parlato con i regolatori di come Google utilizza la sua posizione di ricerca dominante per svantaggiare i rivali. (Gerrit De Vynck / Bloomberg)

Amazon sta utilizzando uno spazio pubblicitario chiave per promuovere i propri marchi a marchio del distributore durante la pandemia, un fatto che potrebbe influire sulla regolamentazione antitrust. (Renee Dudley / ProPublica)

I troll online sono arrivati ​​a usare lo "swatting" – la tattica di innescare una risposta di emergenza pesantemente armata alla casa di qualcuno – a causa dell'alta probabilità che la polizia intensifichi il conflitto. "La brutalità della polizia è un servizio su richiesta negli Stati Uniti", scrive TC Sottek. (The Verge)

ByteDance ha affermato che limiterebbe l'accesso degli ingegneri cinesi Tic toc e altri prodotti d'oltremare. La mossa arriva mentre ByteDance viene sottoposta a un crescente controllo negli Stati Uniti su come il governo cinese potrebbe accedere ai dati degli utenti americani. (Chen Du / PingWest)

Francia istituire un fondo per allontanare gli acquirenti stranieri dall'acquisizione di società tecnologiche nostrane. (Helene Fouquet / Bloomberg)

Industria

Instagram ora dice che gli utenti dovrebbero ottenere l'autorizzazione del fotografo prima di incorporare le immagini sul Web. E se non lo fai, potresti essere soggetto a una causa sul copyright. Sembra un disastro in preparazione. Ecco Timothy B. Lee a Ars Technica:

È probabile che i fotografi professionisti incoraggino la decisione, poiché rafforzerà la loro mano nelle negoziazioni con gli editori. Ma potrebbe anche cambiare in modo significativo la cultura del Web. Fino ad ora, le persone si sono generalmente sentite libere di incorporare post di Instagram sui propri siti senza preoccuparsi delle preoccupazioni sul copyright. Potrebbe essere in procinto di cambiare.

È documenti Google "I social media della resistenza"? "Nell'ultima settimana, Google Documenti è emerso come un modo per condividere tutto elenchi di libri sul razzismo ai modelli per lettere ai familiari e rappresentanti per liste di fondi e risorse che accettano donazioni. Documenti Google condivisi che chiunque può visualizzare e chiunque può modificare, in forma anonima, sono diventati uno strumento prezioso per l'organizzazione di base durante la pandemia di coronavirus e le proteste della brutalità della polizia che investono gli Stati Uniti ". (Tanya Basu / MIT Tech Review)

D'altro canto: saranno richieste del governo per documenti Google i dati mettono a rischio i manifestanti? (Chris Stokel-Walker / Protocollo)

Amazon sistema di risorse umane fortemente automatizzato sta lottando sotto il peso delle richieste di congedo per malattia durante la pandemia. I lavoratori sono stati frustrati dalla loro incapacità di ottenere aiuto dagli esseri umani. (Matt Day / Bloomberg)

La scorsa settimana potrebbe essere stata cinguettioLa migliore settimana di sempre. Le società di misurazione di terze parti affermano di aver raggiunto download record tra la diffusione delle proteste globali sulla brutalità della polizia e le notizie sulla pandemia. (Sarah Perez / TechCrunch)

Ingrandisci ha buone ragioni per non offrire la crittografia end-to-end gratuita a chiunque disponga di un indirizzo e-mail. I servizi di video in diretta sono stati utilizzati per coordinare gli abusi sui minori. (Dan Goodin / Ars Technica)

Si stima che uno su cinque bambini non disponga della tecnologia di cui hanno bisogno per l'apprendimento remoto. E anche quelli che non sembrano imparare tanto, secondo i primi dati. (Tawnell D. Hobbs e Lee Hawkins / giornale di Wall Street)

ByteDance spegnimento TopBuzz, un'app di aggregazione di notizie occidentale. Di conseguenza, ti consigliamo di ricevere tutte le tue notizie da L'interfaccia. (Yingzhi Yang e Brenda Goh / Reuters)

Telegramma aggiunti nuovi strumenti di editing video e adesivi animati. Qualcosa per ravvivare le tue chat di criptovaluta! (Taylor Lyles / The Verge)

Cose da fare

Cerca attività di proprietà di nero su Guaire. E poi vai a supportarli!

Doomscroll! O almeno familiarizzare con il termine, che sembra essere probabilmente uno dei neologismi dell'anno.

Quei buoni tweet

Parla con noi

Inviaci suggerimenti, commenti, domande e post di Karen da Nextdoor: casey@theverge.com e zoe@theverge.com.



Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *