Il moderatore AI di Facebook dirà agli amministratori del gruppo quando gli utenti si stanno rinforzando nei commenti

Facebook sta lanciando un suite di nuovi strumenti per aiutare gli amministratori dei gruppi a controllare le loro comunità. Alcuni offrono semplicemente una panoramica più chiara di post e membri, mentre altri sono progettati per aiutare gli amministratori ad affrontare i conflitti, inclusa una funzionalità basata sull’intelligenza artificiale che, secondo Facebook, può identificare “conversazioni controverse o malsane” che si svolgono nei commenti.

Questo strumento si chiama Conflict Alerts e Facebook dice che lo sta solo testando per ora, quindi la disponibilità non è chiara. È simile all’esistente Avvisi sulle parole chiave funzione, che consente agli amministratori di creare avvisi personalizzati per quando i commentatori utilizzano determinate parole e frasi, ma utilizza modelli di apprendimento automatico per cercare di individuare tipi di problemi più sottili. Una volta che un amministratore è stato avvisato, può agire eliminando i commenti, avviando gli utenti da un gruppo, limitando la frequenza con cui le persone possono commentare o la frequenza con cui è possibile inserire commenti su determinati post.

Tuttavia, non è chiaro in che modo esattamente la funzione rileverà “conversazioni controverse o malsane” e, quando è stato raggiunto per un commento, Facebook ha offerto pochi dettagli aggiuntivi. Un portavoce ha affermato solo che la società utilizzerà modelli di apprendimento automatico per esaminare “più segnali come il tempo di risposta e il volume dei commenti per determinare se il coinvolgimento tra gli utenti ha o potrebbe portare a interazioni negative”.

Presumibilmente, tuttavia, Conflict Alerts utilizza sistemi di intelligenza artificiale simili a quelli già implementati da Facebook per segnalare i discorsi offensivi sul sito. Questi tipi di modelli sono tutt’altro che affidabile al 100% e sono spesso ingannati da cose semplici come umorismo, ironia e slang. Tuttavia, dovrebbero essere in grado di cogliere gli indizi più ovvi che sta accadendo una discussione, come qualcuno che chiama le persone “IDIOTI!” come nello screenshot di esempio sopra.

Altri nuovi strumenti per gli amministratori introdotti oggi includono una nuova home page di amministrazione che fungerà da dashboard, offrendo una panoramica di “post, membri e commenti segnalati”, nonché l’accesso ai riepiloghi dei nuovi membri, che compilano “l’attività di ciascun membro del gruppo nel gruppo, ad esempio il numero di volte in cui hanno postato e commentato, o quando i post sono stati rimossi o sono stati disattivati ​​nel gruppo.”

E c’è anche una nuova funzione Admin Assist per la moderazione automatica dei commenti. Ciò consentirà agli amministratori di limitare chi è autorizzato a pubblicare commenti (permettendo loro di bloccare gli utenti iscritti di recente, ad esempio) e di limitare lo spam e le promozioni indesiderate vietando determinati collegamenti. La funzione Avvisi di conflitto farà parte di Admin Assist.

Puoi leggere di più su tutte queste funzionalità in Facebook’s annuncio post sul blog blog.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *