Allarme UNICEF: l’AI e la nuova frontiera dell’abuso digitale sui minori

L’UNICEF è sempre più allarmato dalle segnalazioni di un rapido aumento del volume di immagini sessualizzate generate dall’AI che circolano, compresi casi in cui fotografie di bambini sono state manipolate e sessualizzate

I deepfake – immagini, video o audio generati o manipolati con l’intelligenza artificiale in modo da sembrare reali – vengono sempre più utilizzati per produrre contenuti sessualizzati che coinvolgono bambini, anche attraverso la “nudificazione”, dove gli strumenti di AI vengono utilizzati per spogliare o alterare gli abiti nelle foto per creare immagini falsificate di nudo o sessualizzate.

Nuove evidenze confermano la portata di questa minaccia in rapida crescita: in uno studio condotto da UNICEF, ECPAT e INTERPOL* in 11 Paesi, almeno 1,2 milioni di bambini hanno rivelato che le loro immagini sono state manipolate in deepfake sessualmente espliciti nell’ultimo anno. In alcuni Paesi, ciò rappresenta 1 bambino su 25, l’equivalente di un bambino in ogni classe tipica.

I bambini sono profondamente consapevoli di questo rischio. In alcuni dei Paesi oggetto dello studio, fino a due terzi dei bambini hanno dichiarato di temere che l’intelligenza artificiale possa essere utilizzata per creare false immagini o video a sfondo sessuale. I livelli di preoccupazione variano notevolmente da un Paese all’altro, sottolineando l’urgente necessità di misure più incisive di sensibilizzazione, prevenzione e protezione.

Le immagini sessualizzate di bambini generate o manipolate utilizzando strumenti di AI sono materiale che costituisce abuso sessuale su minorenni (Child Sexual Abuse Material). L’abuso tramite deepfake è un abuso, e non c’è nulla di falso nel danno che provoca. Quando viene utilizzata l’immagine o l’identità di un bambino, quel bambino è direttamente vittimizzato. Anche senza una vittima identificabile, il materiale relativo ad abusi sessuali su minorenni generato dall’AI normalizza lo sfruttamento sessuale dei bambini, alimenta la domanda di contenuti abusivi e presenta sfide significative per le forze dell’ordine nell’identificare e proteggere i bambini che hanno bisogno di aiuto.

Leggi anche: Epstein files, Jmail, la damnatio memoriae e la banalità del male

L’UNICEF accoglie con grande favore gli sforzi degli sviluppatori di intelligenza artificiale che stanno implementando approcci di sicurezza integrati nella progettazione e solide misure di protezione per prevenire l’uso improprio dei loro sistemi. Tuttavia, il panorama rimane disomogeneo e troppi modelli di AI non vengono sviluppati con adeguate misure di sicurezza. I rischi possono essere aggravati quando gli strumenti di AI generativa sono integrati direttamente nelle piattaforme dei social media, dove le immagini manipolate si diffondono rapidamente.

L’UNICEF chiede con urgenza le seguenti azioni per affrontare la crescente minaccia dei materiali di abuso sessuale su minorenni generati dall’AI:

•  che tutti i governi amplino le definizioni di materiale di abuso sessuale su minorenni (CSAM) per includere i contenuti generati dall’AI e criminalizzino la sua creazione, acquisizione, possesso e distribuzione;
• che gli sviluppatori di AI implementino approcci di sicurezza integrati nella progettazione e solide misure di protezione per prevenire l’uso improprio dei modelli di AI;
• che le aziende digitali impediscano la diffusione di materiale di abuso sessuale su minorenni generato dall’intelligenza artificiale, non limitandosi a rimuoverlo dopo che l’abuso è avvenuto, e rafforzando la moderazione dei contenuti investendo in tecnologie di rilevamento, in modo che tale materiale possa essere rimosso immediatamente, non giorni dopo la segnalazione da parte della vittima o di un suo rappresentante.

Leggi anche: Perché preferiamo chattare con l’AI anziché guardarci negli occhi?