Benvenuti nel lato oscuro dei social media: i contenuti “inappropriati”

Con miliardi di utenti attivi, colossi come Meta e YouTube sono impegnati a filtrare il caricamento di milioni di contenuti inappropriati ogni giorno. Un compito ancora largamente affidato a persone in carne e ossa, alle prese con un’enorme pressione psicologica

 

 

“Questo contenuto viola gli standard della nostra comunità e verrà rimosso”. È la dicitura standard con la quale Facebook e altre piattaforme social rigettano il caricamento di contenuti ritenuti “inappropriati”. Per la maggior parte, come si legge nelle stesse linee-guida fornite da Meta, si tratta di materiale che include:

• immagini di nudo o altri contenuti con allusioni sessuali;

• discorsi di incitamento all’odio, minacce credibili o attacchi diretti a persone o gruppi;

• contenuti autolesionisti o eccessivamente violenti;

• profili falsi o di impostori;

• spam.

Una “censura” preventiva che, fino a poco tempo fa, richiedeva il lavoro di un numero enorme di moderatori umani chiamati a visionare personalmente centinaia di migliaia di immagini e video a dir poco allucinanti. Violenza estrema su persone e animali, pedopornografia, immagini non censurate di incidenti e vittime di guerra, contenuti profondamente razzisti e omofobi… l’elenco di quanto viene filtrato prima di finire sulle nostre bacheche social è praticamente infinito. E comporta enormi costi economici, ma anche psicologici.

 

 

Leggi anche: Intelligenza artificiale o truffa? Perché l’AI Washing è sempre più diffuso

 

 

Nel 2021, ad esempio, Facebook e YouTube, piattaforme con oltre 2 miliardi di utenti attivi al mese, potevano contare su qualcosa come 10mila moderatori di contenuti. Alcuni interni, altri appaltati ad agenzie.

Un mondo, quello del Content Moderation, che sembra un incubo a occhi aperti. Nel 2019 fece discutere un articolo pubblicato sul magazine The Verge sulle condizioni di lavoro dei moderatori di Facebook. Il reportage includeva una serie di interviste sull’impatto traumatico che la revisione di contenuti disturbanti ogni giorno, per ore e ore, provoca sulla psiche umana. Molti degli intervistati dichiaravano di soffrire di disturbi da stress post-traumatico (PTSD) e altri problemi di salute mentale – inclusa una certa dissociazione dalla realtà – a causa del loro lavoro.

Nell’articolo venivano citati gli esempi di dipendenti che avevano iniziato a credere che l’11 settembre fosse una gigantesca macchinazione o che l’Olocausto non si fosse mai verificato. Senza contare quelli che, traumatizzati dalla visione regolare di omicidi e violenze di ogni genere, sembravano aver perso ogni forma di empatia.

 

 

Leggi anche: Ecco Threads, l’app che sfida Twitter

 

 

Un altro pezzo, pubblicato questa volta sul magazine Wired nel 2020, denunciava, invece, i ritmi massacranti ai quali erano sottoposti i moderatori di YouTube, piattaforma che ogni giorno si trova a gestire il caricamento di 3,7 milioni di video.

Solamente negli ultimi anni, l’introduzione sistematica di tool di intelligenza artificiale ha contribuito ad alleviare il lavoro dei revisori di contenuti social. Con un grosso punto interrogativo però: l’AI sembra, infatti, avere ancora dei problemi nel distinguere i limiti, spesso sfumati, che separano un contenuto accettabile da uno inappropriato. Pensiamo, ad esempio, alle immagini di un incidente stradale o di una zona bombardata, ma anche semplicemente alla foto di un bambino in spiaggia o al video di un giornalista che riporta affermazioni razziste o sessiste pronunciate da altri.

Da qui, non solo la necessità di “allenare” costantemente i software di AI, ma anche di mantenere una supervisione umana.

Un lavoro che definire ingrato è riduttivo.

Potrebbero interessarti

PODCAST

Open Innovation

Test before invest, ovvero il modello di Venture Client di ELIS Innovation Hub

Ospite: Francesco Parrano

SMASH
con Sabrina Colandrea

PODCAST

Cultura e Società

Umanesimo manageriale nell’era digitale

LEGALTECH SHOW
con Silvano Lorusso

PODCAST

Cultura e Società

La Matematica in Asimov e nel mondo contemporaneo

NOVE VOLTE SETTE
con Cecilia Fronza

PODCAST

Blockchain

Tutto sulla blockchain. Intervista a Jules Piccotti

Ospite: Jules Piccotti

FUTURA
con Mark Bartucca

PODCAST

Community Care

Profit + purpose = ? La formula dell’azienda ideale declinata nei progetti di Social Impact del WMF

SEEDBLE X WMF
con Sabrina Colandrea

PODCAST

People

Quale sarà il futuro del Customer Success?

C.S.I. Customer Success Italia
con Francesco Acabbi, Mark Bartucca