Benvenuti nel lato oscuro dei social media: i contenuti “inappropriati”

Con miliardi di utenti attivi, colossi come Meta e YouTube sono impegnati a filtrare il caricamento di milioni di contenuti inappropriati ogni giorno. Un compito ancora largamente affidato a persone in carne e ossa, alle prese con un’enorme pressione psicologica

 

 

“Questo contenuto viola gli standard della nostra comunità e verrà rimosso”. È la dicitura standard con la quale Facebook e altre piattaforme social rigettano il caricamento di contenuti ritenuti “inappropriati”. Per la maggior parte, come si legge nelle stesse linee-guida fornite da Meta, si tratta di materiale che include:

• immagini di nudo o altri contenuti con allusioni sessuali;

• discorsi di incitamento all’odio, minacce credibili o attacchi diretti a persone o gruppi;

• contenuti autolesionisti o eccessivamente violenti;

• profili falsi o di impostori;

• spam.

Una “censura” preventiva che, fino a poco tempo fa, richiedeva il lavoro di un numero enorme di moderatori umani chiamati a visionare personalmente centinaia di migliaia di immagini e video a dir poco allucinanti. Violenza estrema su persone e animali, pedopornografia, immagini non censurate di incidenti e vittime di guerra, contenuti profondamente razzisti e omofobi… l’elenco di quanto viene filtrato prima di finire sulle nostre bacheche social è praticamente infinito. E comporta enormi costi economici, ma anche psicologici.

 

 

Leggi anche: Intelligenza artificiale o truffa? Perché l’AI Washing è sempre più diffuso

 

 

Nel 2021, ad esempio, Facebook e YouTube, piattaforme con oltre 2 miliardi di utenti attivi al mese, potevano contare su qualcosa come 10mila moderatori di contenuti. Alcuni interni, altri appaltati ad agenzie.

Un mondo, quello del Content Moderation, che sembra un incubo a occhi aperti. Nel 2019 fece discutere un articolo pubblicato sul magazine The Verge sulle condizioni di lavoro dei moderatori di Facebook. Il reportage includeva una serie di interviste sull’impatto traumatico che la revisione di contenuti disturbanti ogni giorno, per ore e ore, provoca sulla psiche umana. Molti degli intervistati dichiaravano di soffrire di disturbi da stress post-traumatico (PTSD) e altri problemi di salute mentale – inclusa una certa dissociazione dalla realtà – a causa del loro lavoro.

Nell’articolo venivano citati gli esempi di dipendenti che avevano iniziato a credere che l’11 settembre fosse una gigantesca macchinazione o che l’Olocausto non si fosse mai verificato. Senza contare quelli che, traumatizzati dalla visione regolare di omicidi e violenze di ogni genere, sembravano aver perso ogni forma di empatia.

 

 

Leggi anche: Ecco Threads, l’app che sfida Twitter

 

 

Un altro pezzo, pubblicato questa volta sul magazine Wired nel 2020, denunciava, invece, i ritmi massacranti ai quali erano sottoposti i moderatori di YouTube, piattaforma che ogni giorno si trova a gestire il caricamento di 3,7 milioni di video.

Solamente negli ultimi anni, l’introduzione sistematica di tool di intelligenza artificiale ha contribuito ad alleviare il lavoro dei revisori di contenuti social. Con un grosso punto interrogativo però: l’AI sembra, infatti, avere ancora dei problemi nel distinguere i limiti, spesso sfumati, che separano un contenuto accettabile da uno inappropriato. Pensiamo, ad esempio, alle immagini di un incidente stradale o di una zona bombardata, ma anche semplicemente alla foto di un bambino in spiaggia o al video di un giornalista che riporta affermazioni razziste o sessiste pronunciate da altri.

Da qui, non solo la necessità di “allenare” costantemente i software di AI, ma anche di mantenere una supervisione umana.

Un lavoro che definire ingrato è riduttivo.

Potrebbero interessarti

PODCAST

Cultura e Società

La regia nell’era digitale. Intervista a Giacomo Spaconi

Ospite: Giacomo Spaconi

FUTURA
con Mark Bartucca

PODCAST

Intelligenza artificiale

La mission di Eoliann? Innovare il Climate Tech grazie a dati satellitari e AI

Ospite: Roberto Carnicelli

SMASH
con Sabrina Colandrea

PODCAST

Big Data

Perché la nuova policy di Facebook non apre a scenari disastrosi

Ospite: Stefano Gazzella, Marco Scialdone

A LITTLE PRIVACY, PLEASE!
con Sergio Aracu, Marco Trombadore

PODCAST

Cultura e Società

L’Iran tra resistenza e speranza. La voce dell’attivista Azar Karimi

Ospite: Azar Karimi

FUTURA
con Mark Bartucca

PODCAST

Intelligenza artificiale

Vocations, la startup che rivoluziona l’offerta e la domanda di lavoro

Ospite: Alessio Gavinelli, Alessandro Galli

SMASH
con Gaetano De Monte

PODCAST

Open Innovation

Cinque anni di G-Gravity, dal focus sull’Healthcare al Vantaa Future Hub

Ospite: Roberta Gilardi

SMASH
con Sabrina Colandrea