Con miliardi di utenti attivi, colossi come Meta e YouTube sono impegnati a filtrare il caricamento di milioni di contenuti inappropriati ogni giorno. Un compito ancora largamente affidato a persone in carne e ossa, alle prese con un’enorme pressione psicologica
“Questo contenuto viola gli standard della nostra comunità e verrà rimosso”. È la dicitura standard con la quale Facebook e altre piattaforme social rigettano il caricamento di contenuti ritenuti “inappropriati”. Per la maggior parte, come si legge nelle stesse linee-guida fornite da Meta, si tratta di materiale che include:
• immagini di nudo o altri contenuti con allusioni sessuali;
• discorsi di incitamento all’odio, minacce credibili o attacchi diretti a persone o gruppi;
• contenuti autolesionisti o eccessivamente violenti;
• profili falsi o di impostori;
• spam.
Una “censura” preventiva che, fino a poco tempo fa, richiedeva il lavoro di un numero enorme di moderatori umani chiamati a visionare personalmente centinaia di migliaia di immagini e video a dir poco allucinanti. Violenza estrema su persone e animali, pedopornografia, immagini non censurate di incidenti e vittime di guerra, contenuti profondamente razzisti e omofobi… l’elenco di quanto viene filtrato prima di finire sulle nostre bacheche social è praticamente infinito. E comporta enormi costi economici, ma anche psicologici.
Leggi anche: Intelligenza artificiale o truffa? Perché l’AI Washing è sempre più diffuso
Nel 2021, ad esempio, Facebook e YouTube, piattaforme con oltre 2 miliardi di utenti attivi al mese, potevano contare su qualcosa come 10mila moderatori di contenuti. Alcuni interni, altri appaltati ad agenzie.
Un mondo, quello del Content Moderation, che sembra un incubo a occhi aperti. Nel 2019 fece discutere un articolo pubblicato sul magazine The Verge sulle condizioni di lavoro dei moderatori di Facebook. Il reportage includeva una serie di interviste sull’impatto traumatico che la revisione di contenuti disturbanti ogni giorno, per ore e ore, provoca sulla psiche umana. Molti degli intervistati dichiaravano di soffrire di disturbi da stress post-traumatico (PTSD) e altri problemi di salute mentale – inclusa una certa dissociazione dalla realtà – a causa del loro lavoro.
Nell’articolo venivano citati gli esempi di dipendenti che avevano iniziato a credere che l’11 settembre fosse una gigantesca macchinazione o che l’Olocausto non si fosse mai verificato. Senza contare quelli che, traumatizzati dalla visione regolare di omicidi e violenze di ogni genere, sembravano aver perso ogni forma di empatia.
Leggi anche: Ecco Threads, l’app che sfida Twitter
Un altro pezzo, pubblicato questa volta sul magazine Wired nel 2020, denunciava, invece, i ritmi massacranti ai quali erano sottoposti i moderatori di YouTube, piattaforma che ogni giorno si trova a gestire il caricamento di 3,7 milioni di video.
Solamente negli ultimi anni, l’introduzione sistematica di tool di intelligenza artificiale ha contribuito ad alleviare il lavoro dei revisori di contenuti social. Con un grosso punto interrogativo però: l’AI sembra, infatti, avere ancora dei problemi nel distinguere i limiti, spesso sfumati, che separano un contenuto accettabile da uno inappropriato. Pensiamo, ad esempio, alle immagini di un incidente stradale o di una zona bombardata, ma anche semplicemente alla foto di un bambino in spiaggia o al video di un giornalista che riporta affermazioni razziste o sessiste pronunciate da altri.
Da qui, non solo la necessità di “allenare” costantemente i software di AI, ma anche di mantenere una supervisione umana.
Un lavoro che definire ingrato è riduttivo.
