La grande tecnologia non può vietare di uscirne

Tuttavia, Stalinsky ha detto che scende dalla parte del “prendilo giù” quando si tratta di estremismo violento. La sua prospettiva è stata forgiata da anni di attività di monitoraggio da parte dei terroristi islamici. Lo Stato Islamico, in particolare, è diventato famoso per il suo uso strategico dei social media negli anni 2010. “Questo potrebbe sembrare folle, ma se non fosse stato per Twitter, l’ISIS non sarebbe stato l’ISIS”, ha detto. “L’hanno usato in modo così efficace per il reclutamento, per diffondere la loro ideologia, per crescere”. Dopo l’omicidio del 2014 del giornalista americano James Foley, ha detto Stalinksy, Twitter ha preso sul serio il problema e in gran parte ha eliminato l’ISIS dalla sua piattaforma. Bandito dai principali social media, il gruppo è migrato su Telegram e altre app di chat.

Le piattaforme sono state criticate per anni per aver trattato il nazionalismo bianco con maggiore indulgenza rispetto all’estremismo islamico. Nella misura in cui i terroristi domestici di destra utilizzano i social media per il reclutamento, tuttavia, le mosse dell’ultimo minuto annunciate la scorsa settimana sono probabilmente troppo tardi per avere un impatto sulla violenza che circonda l’inaugurazione. Il reclutamento, così com’è, va avanti da anni. YouTube ha dimostrato di rendere più facile la formazione di comunità attorno a punti di vista di destra radicale; Gli algoritmi di raccomandazione di Facebook hanno notoriamente sterzata persone in gruppi più estremi. È anche difficile analizzare i rivoltosi del Campidoglio direttamente con l’ISIS. È un’alleanza ad hoc mirata a un obiettivo particolare e immediato – mantenere Trump in carica – piuttosto che un’organizzazione ideologica con ambizioni fisse a lungo termine. Mentre alcuni sembrano appartenere a milizie organizzate e gruppi della supremazia bianca, molti affluenti alimentano il fiume “Stop the steal”, compresi gli aderenti di QAnon, che non sono intrinsecamente organizzati attorno alla violenza, e persone che credono semplicemente alle affermazioni di Trump secondo cui il paese viene rubato. e sentirsi motivati ​​ad agire.

In effetti, fornire un forum per le bugie sulle elezioni è probabilmente il modo più importante in cui le piattaforme di social media hanno contribuito all’attuale atmosfera di violenza politica, ed è anche quello che è ovviamente troppo tardi per qualsiasi soluzione rapida. Facebook e YouTube stanno chiudendo gli account che ripetono bugie su un’elezione rubata, ma a questo punto decine di milioni di americani credono già a quelle false affermazioni. Affinché le aziende avessero fatto la differenza qui, avrebbero dovuto iniziare molto prima.

Per essere onesti, in qualche modo loro fatto inizia prima. (Molto meno YouTube, che tende a farla franca essendo meno aggressivo nei confronti della disinformazione.) Nei mesi precedenti e successivi alle elezioni, le società hanno compiuto sforzi senza precedenti per indirizzare gli utenti verso informazioni accurate e applicare etichette di verifica dei fatti alle affermazioni di frode elettorale. Queste mosse non sembrano essere state efficaci, ma si può capire perché le società esitassero ad iniziare a rimuovere ogni incarico che contestava i risultati delle elezioni. È insostenibile per una piattaforma di qualsiasi scala reale controllare tutti i contenuti falsi, specialmente quando si tratta di politica, che consiste nel cercare di convincere gli elettori ad accettare una certa versione della realtà. In un’era di intensa polarizzazione, non è sempre chiaro quali saranno le bugie a innescare la violenza finché non accadrà.

È un errore, tuttavia, analizzare la colpevolezza dei social media esclusivamente in termini di una decisione binaria di rimuovere o lasciare qualcosa. L’effetto che queste aziende hanno sul discorso è molto più profondamente intessuto nel loro design di base, che privilegia l’impegno sopra ogni altra cosa. Per capire un modo in cui funziona, consiglio vivamente un recente New York Times articolo di Stuart A. Thompson e Charlie Warzel. Hanno analizzato i post pubblici di Facebook di tre utenti di estrema destra, incluso uno che faceva parte della folla fuori dal Campidoglio il 6 gennaio. Tutti e tre, hanno scoperto gli autori, hanno iniziato a postare cose normali, con una reazione limitata. Una volta passati a post estremi, che si trattasse di incoraggiare le proteste “Stop the steal”, di negazione Covid o di diffondere false affermazioni sui conteggi truccati, il loro impegno è salito alle stelle: più Mi piace, più commenti, più condivisioni. Più attenzione.