Perché le aziende tecnologiche ci devono più di un rapporto trimestrale sulla trasparenza


Facebook ha più di 2 miliardi di utenti e su quella scala arrivano molti errori. L'azienda ultimo rapporto trimestrale sulla trasparenza, che quantifica le violazioni degli standard comunitari dell'azienda, spiega come tanto misfatto.

Ecco Tony Romm con un riassunto al Washington Post:

Nel secondo e terzo trimestre del 2019, Ha detto Facebook ha rimosso o etichettato più di 54 milioni di contenuti ritenuti violenti e grafici, 11,4 milioni di post che hanno infranto le sue regole che proibivano il discorso dell'odio, 5,7 milioni di caricamenti che si erano trovati in contrasto con le politiche di bullismo e molestie e 18,5 milioni di articoli determinati come nudità o sessualità infantile sfruttamento.

La società ha anche dettagliato per la prima volta i suoi sforzi per sorvegliare Instagram, rivelando che ha preso di mira 1,2 milioni di foto o video che coinvolgono la nudità o lo sfruttamento dei bambini e 3 milioni che hanno infranto le sue politiche vietando la vendita di droghe illegali negli ultimi sei mesi.

I numeri sono tutti grandi e in crescita, il che è male. Anche un singolo incidente può causare danni ai team di moderazione dei contenuti dell'azienda. Le riprese di Christchurch, descritte nel rapporto di questo trimestre, hanno generato 4,5 milioni di contenuti che Facebook ha dovuto rimuovere tra il 15 marzo, quando è avvenuto, e il 30 settembre.

Ma Facebook sta rilevando molti di questi problemi tramite sistemi automatizzati, il che è positivo. Ciò include i progressi compiuti nel rilevare automaticamente i discorsi di odio, in genere il tipo di violazione più difficile da affrontare per i sistemi di apprendimento automatico, date le sfumature del linguaggio umano. Guy Rosen, vice presidente per l'integrità di Facebook, ha descritto i progressi di Facebook in un post sul blog:

A partire dal secondo trimestre del 2019, grazie ai continui progressi nelle capacità dei nostri sistemi di rilevare correttamente le violazioni, abbiamo iniziato a rimuovere automaticamente alcuni post, ma solo quando il contenuto è identico o quasi identico al testo o alle immagini precedentemente rimosse dal nostro team di revisione dei contenuti in violazione la nostra politica o laddove i contenuti siano strettamente correlati agli attacchi comuni che violano la nostra politica. Lo facciamo solo in casi selezionati, ed è stato possibile solo perché i nostri sistemi automatizzati sono stati addestrati su centinaia di migliaia, se non milioni, di diversi esempi di violazione dei contenuti e attacchi comuni. In tutti gli altri casi in cui i nostri sistemi rilevano in modo proattivo un incitamento all'odio, il contenuto viene comunque inviato ai nostri team di revisione per prendere una decisione definitiva. Con queste evoluzioni nei nostri sistemi di rilevamento, il nostro tasso proattivo è salito all'80%, dal 68% nel nostro ultimo rapporto, e abbiamo aumentato il volume di contenuti che troviamo e rimuoviamo per violazione della nostra politica di incitamento all'odio.

Più velocemente Facebook è in grado di rilevare discorsi di odio, vendite di droga e armi, sfruttamento dei minori e altri problemi, più è probabile che la società possa allertare le forze dell'ordine e i gruppi della società civile in tempo utile per affrontarli. Questa è la storia positiva trasmessa dal rapporto di questo trimestre.

Ma c'è anche una storia più oscura – una sulla frequenza con cui i governi obbligano Facebook a rilasciare i dati degli utenti, in genere senza informare l'obiettivo, o addirittura a chiudere del tutto il servizio in un paese.

Zack Whittaker riferisce il numero spiccato di richieste del governo per i dati degli utenti Facebook su TechCrunch. Le richieste sono aumentate del 16% nella prima metà di quest'anno, salendo a 128.617:

È il numero più alto di richieste di governo ricevute in qualsiasi periodo di riferimento da quando ha pubblicato il suo primo rapporto sulla trasparenza nel 2013.

Il governo degli Stati Uniti ha aperto la strada con il maggior numero di richieste: 50.741 richieste di dati utente che hanno comportato la trasmissione di alcuni dati account o utente alle autorità nell'88% dei casi. Facebook ha dichiarato che i due terzi di tutte le richieste del governo degli Stati Uniti sono arrivate con un ordine di bavaglio, impedendo alla società di comunicare all'utente la richiesta dei propri dati.

Inoltre, il rapporto ha rilevato che 15 paesi avevano interrotto il servizio di Facebook 67 volte nella prima metà dell'anno, rispetto a nove paesi che hanno interrotto il servizio 53 volte nel semestre precedente. L'interruzione del servizio di Facebook a volte può essere una misura disperata adottata dalle aziende preoccupate che il discorso d'odio in rapida diffusione stia portando alla violenza nel mondo reale. Ma più spesso serve come pretesto per reprimere il dissenso antigovernativo.

In ogni caso, apprezzo i rapporti sulla trasparenza ormai standard che riceviamo da Facebook, Google e dalle altre grandi piattaforme. (E Facebook offre informazioni molto più dettagliate rispetto ai suoi coetanei, in quanto il CEO Mark Zuckerberg è stato rapido nel sottolineare una telefonata sul rapporto.) Eppure, mentre sottolineano alcuni degli importanti lavori fatti per proteggere le persone, questi rapporti illustrano anche quanto poca gente ha ricorso se vengono falsamente coinvolti in un dragnet di apprendimento automatico. Il processo di appello è limitato e opaco e il linguaggio umano e le norme sociali possono cambiare più rapidamente di quanto i sistemi di apprendimento automatico possano raggiungerli.

Se quello che vuoi da una piattaforma è qualcosa di simile alla giustizia, i rapporti sulla trasparenza sono necessari, ma non sufficienti. L'utente medio non ha ancora modo di ritenere responsabile una piattaforma quando commette un errore.

Per questo, potresti desiderare qualcosa come … una tavola di sorveglianza. Speriamo che Facebook abbia presto altro da dire su questo argomento.

Il rapporto

Oggi nelle notizie che potrebbero influenzare la percezione pubblica delle grandi piattaforme tecnologiche.

Tendenza: Facebook incluso Instagram nella sua relazione sulla trasparenza per la prima volta. Maggiore è la trasparenza che ci circonda, meglio è.

Tendenza laterale: In una chiamata stampa relativa al rapporto, Mark Zuckerberg bloccato dalla sua politica di lasciare che i politici mentano nelle pubblicità Facebook, ma ha affermato che "continua a guardare a come potrebbe avere senso perfezionarlo in futuro".

Tendenza verso il basso: Google licenziato un dipendente per aver trapelato informazioni alla stampa e ne ha licenziate altre due per presunte violazioni delle politiche aziendali. È la prova di crescenti tensioni tra il management e il personale impegnato nell'attivismo dei dipendenti.

governare

Google raggiunto un accordo con il National Labor Relations Board degli Stati Uniti per consentire discussioni più aperte nel campus. L'accordo è arrivato dopo che l'ex dipendente Kevin Cernekee ha presentato a denuncia l'anno scorso, sostenendo che la compagnia aveva limitato la libertà di parola e lo aveva licenziato per aver espresso opinioni conservatrici. Jennifer Elias alla CNBC ha di più:

Come parte dell'accordo, Google è tenuto a consentire ai dipendenti di parlare con i media del loro impiego senza ottenere l'autorizzazione, il che segna un cambiamento per un'azienda che ha esercitato strette restrizioni sulle conversazioni con la stampa.

La società deve anche dire che rispetterà la legge federale, consentendo ai dipendenti di formare, unirsi o assistere un sindacato e di "agire insieme ad altri dipendenti" per i loro "benefici e protezione". Ex dipendenti hanno rivendicato che hanno dovuto affrontare ritorsioni per aver parlato delle questioni relative alla forza lavoro, compresa l'organizzazione dello sciopero a livello aziendale lo scorso anno per protestare contro la gestione da parte di Google delle molestie sessuali.

Mark Zuckerberg sparato ai concorrenti durante una chiamata stampa relativa all'ultimo rapporto sulla trasparenza dell'azienda. Ha detto che altre società tecnologiche non stanno rilasciando dati relativi alla rimozione degli account, rendendo difficile valutare la quantità di contenuti dannosi disponibili. (Tony Romm / Twitter)

Una rete multimediale pro-Trump sta costruendo un Facebook impero usando account e gruppi falsi. Le strategie sono uno sforzo coordinato per amplificare i contenuti dei partigiani, evitando le onerose regole associate alla pubblicità su Facebook. (Alex Kasprak e Jordan Lilies / Snopes)

pro-briscola i conservatori vengono trollati agli eventi dal vivo da un gruppo di estrema destra che spinge un messaggio ancora più conservatore. Si chiamano Groypers (un riferimento a un popolare 4chan meme) e cerca di assumere la parte di domande e risposte con domande anti-gay, antisemite e razziste. (Ben Collins / NBC)

Industria

Nel 2016, Mark Zuckerberg seriamente considerato l'acquisto di Musical.ly, l'app che alla fine potrebbe diventare Tic toc. Ora, lo sta demonizzando per opporsi alla regolamentazione Facebook. Ryan Mac a BuzzFeed ha lo scoop:

Le fonti hanno affermato che i colloqui sono stati seri, sebbene un accordo non si sia mai materializzato. Circa 14 mesi dopo, il conglomerato cinese ByteDance acquistò Musical.ly per circa $ 800 milioni. Successivamente ha unito l'app al già esistente TikTok per formare la popolare piattaforma video che Zuckerberg ha recentemente demonizzato come una minaccia alla supremazia tecnologica occidentale.

“Fino a poco tempo fa, Internet in quasi tutti i paesi al di fuori della Cina è stato definito da piattaforme americane con forti valori di espressione libera. Non vi è alcuna garanzia che questi valori vinceranno ", ha detto Zuckerberg in un discorso del mese scorso alla Georgetown University. "Mentre i nostri servizi, come WhatsApp, vengono utilizzati da manifestanti e attivisti ovunque a causa della forte crittografia e protezioni della privacy, su TikTok, l'app cinese che cresce rapidamente in tutto il mondo, le citazioni di queste proteste vengono censurate, anche negli Stati Uniti".

Facebook alla fine ha ceduto l'accordo per motivi di privacy e normative. Il momento non realizzato è stata un'occasione mancata per saltare a bordo di un fenomeno di cortometraggio diventato virale negli Stati Uniti e in Cina. (Sarah Frier e Zheping Huang / Bloomberg)

Gli adolescenti australiani stanno usando Tic toc per mostrare al mondo quanto sono gravi gli incendi. Gli incendi hanno causato la morte di tre australiani e distrutto centinaia di case, ma non sono stati ampiamente diffusi a livello internazionale. (Cameron Wilson / BuzzFeed)

Google inizierà a offrire conti correnti ai consumatori. È l'ultimo gigante della tecnologia della Silicon Valley a spingere nella finanza, dopo Mela ha lanciato la sua carta di credito l'estate scorsa. Il progetto di Google, nome in codice Cache, dovrebbe essere lanciato il prossimo anno con gli account gestiti da Citigroup. (Peter Rudegeair e Liz Hoffman / Il giornale di Wall Street)

Alcuni dei siti Web sanitari più famosi del Regno Unito condividono i dati sensibili delle persone – compresi sintomi medici, diagnosi, nomi di farmaci e informazioni mestruali e sulla fertilità – con dozzine di aziende in tutto il mondo, tra cui Google, Amazon, Facebook e Oracolo. (Madhumita Murgia e Max Harlow / The Financial Times)

Google i dirigenti hanno detto che la società non sta abusando dei dati sanitari di uno dei maggiori fornitori di servizi sanitari statunitensi, respingendo le notizie che hanno suscitato critiche da parte dei legislatori e indotto un'inchiesta federale. La società ha dichiarato che sta costruendo uno strumento di ricerca per cartelle cliniche digitali. (Gerrit De Vynck / Bloomberg)

Il prezzo medio pagato dai marchi Instagram gli influencer per i post sponsorizzati sono aumentati quest'anno, secondo un nuovo rapporto. Il costo medio è ora di $ 1.643 per posta e più marchi richiedono storie sponsorizzate. (Amanda Perelli / Business Insider)

Tic toc recentemente ha iniziato a pubblicare annunci Google prendendo di mira le persone curiose di Facebook affari pubblicitari e influencer. Un portavoce di TikTok ha affermato che le pubblicità sono "piccoli test". (Shoshana Wodinsky / Adweek)

Guadagni del terzo trimestre da Facebook, cinguettio, schiocco e Pinterest mostra i percorsi Pinterest dietro gli altri social network in termini di quanti soldi guadagna dagli utenti stranieri. La società ha deliberatamente implementato le vendite internazionali di annunci lentamente, il che suggerisce che ha il maggior potenziale di crescita. (Tom Dotan / L'informazione)

E infine…

BarkBox è consapevole che il suo giocattolo per cani sembra un Fleshlight.

Questa è solo una dolce storia di un annuncio di Facebook che è diventato virale per i motivi più elementari e ha immediatamente esaurito il prodotto che stava vendendo, portando gioia indicibile ai cani in tutto il paese.

Buona notte.

Parla con noi

Inviaci suggerimenti, commenti, domande e rapporti sulla trasparenza: casey@theverge.com e zoe@theverge.com.



Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *