Nell’eterna lotta tra i deep fake e la realtà spunta FakeCatcher

Il web ormai prolifera di immagini e video iper-realistici generati da software AI con intenti goliardici, ma anche criminali. Ora Intel promette di aver trovato un sistema per riconoscere i deep fake con estrema accuratezza. Ma per quanto?

 

 

Papa Bergoglio che indossa un vistoso piumino bianco in stile trapper; Donald Trump arrestato dalla polizia di Manhattan; Tom Cruise che abbraccia appassionatamente Paris Hilton; il Presidente ucraino Volodymyr Zelensky che ordina ai suoi compatrioti di arrendersi all’esercito russo

Sono alcuni degli esempi più famosi di video e immagini deep fake, ossia contenuti generati dall’intelligenza artificiale così realistici da sembrare veri. Un universo sempre più vasto e ormai accessibile a tutti: dagli studenti newyorkesi che realizzano video in cui il preside della loro scuola pronuncia frasi razziste allo streamer di Twitch che crea video pornografici usando le facce dei suoi conoscenti.

Motivo? Divertirsi e creare contenuti virali sul web, ma anche umiliare e ricattare persone, diffondere disinformazione, nonché distruggere l’immagine pubblica di celebrità e politici.

Ecco perché, in parallelo con l’evoluzione delle tecnologie di Generative AI in grado di creare contenuti sempre più realistici, è diventata necessaria l‘introduzione di strumenti di fact-checking in grado di smascherare immagini e video falsi.

In questo contesto, qualche mese fa, il colosso dell’informatica Intel Corporation ha annunciato la creazione di una nuova tecnologia di rilevamento dei deep fake, chiamata FakeCatcher, capace di identificare un deep fake video nel 96% dei casi.

Come? Rilevando il flusso sanguigno nei volti. Secondo i curatori del progetto, Ilke Demir e Umur Ciftci, quando il sangue viene pompato nelle vene, ad esempio durante un discorso accorato o una semplice passeggiata, i tessuti facciali mutano microscopicamente di colore. Ebbene questi cambiamenti minimi nella carnagione non sono (ancora) replicabili dai software usati per generare i deep fake.

“La domanda che ci poniamo è: cosa caratterizza gli esseri umani?”, ha detto Demir, sottolineando che, nel caso di FakeCatcher, l’approccio non è più quello del deep learning, in cui si cerca di trovare ciò che è falso in un video, ma l’opposto

Ovviamente FakeCatcher non è l’unico tool anti-deep fake sul mercato. Tra gli altri, possiamo citare AiOrNot, Reality Defender, Attestiv, Blackbird.AI, Sensity AI nonché il decano Microsoft Authenticator

Lanciato nel 2020 e capace di esaminare foto o video attribuendo un punteggio di affidabilità, il tool era in grado di analizzare minuziosamente i singoli frame e scandagliare le tonalità di colore alla ricerca di incongruenze. 

Peccato che, nel tempo, i software di deep fake generation hanno trovato il modo di bypassare il “quality control” in questione, facendone crollare il tasso di affidabilità. 

Un chiaro esempio di come, anche in questo campo, non esistano soluzioni definitive, ma solo una serie di mosse più o meno incisive. Né più né meno come in un’infinita partita a scacchi.

 

Leggi anche: “Uno, nessuno, ChatGPT”, un libro che riflette sull’intelligenza artificiale

A cura di

In questo articolo:

Potrebbero interessarti

PODCAST

Cultura e Società

Alla scoperta della Gen Z con Chiara Caccioppoli

Ospite: Chiara Caccioppoli

FUTURA
con Mark Bartucca

PODCAST

People

Vuoi implementare il Customer Success nella tua azienda? Ecco qualche consiglio pratico

C.S.I. Customer Success Italia
con Francesco Acabbi, Mark Bartucca

PODCAST

People

Leadership e competenze trasversali. L’identikit del leader moderno

Ospite: Lelio Borgherese

SPECIALE RADIO ACTIVA+
con Michela Lombardi

PODCAST

Cultura e Società

Alla scoperta del podcast “Perfetti sconosciuti” con Claudio Di Filippo

Ospite: Claudio Di Filippo

CIFcast
con Damiano Lotto, Emiliano Maramonte

PODCAST

Cultura e Società

Al via “Futura”. Parliamo di istituzioni europee con Elania Zito

Ospite: Elania Zito

FUTURA
con Mark Bartucca

PODCAST

Sostenibilità

Energie al femminile: donne alla guida della rivoluzione green e digitale con Pika Energy

WOW - WOMEN ON WEB
con Federica Meta, Francesca Pucci