Nell’eterna lotta tra i deep fake e la realtà spunta FakeCatcher

Il web ormai prolifera di immagini e video iper-realistici generati da software AI con intenti goliardici, ma anche criminali. Ora Intel promette di aver trovato un sistema per riconoscere i deep fake con estrema accuratezza. Ma per quanto?

 

 

Papa Bergoglio che indossa un vistoso piumino bianco in stile trapper; Donald Trump arrestato dalla polizia di Manhattan; Tom Cruise che abbraccia appassionatamente Paris Hilton; il Presidente ucraino Volodymyr Zelensky che ordina ai suoi compatrioti di arrendersi all’esercito russo

Sono alcuni degli esempi più famosi di video e immagini deep fake, ossia contenuti generati dall’intelligenza artificiale così realistici da sembrare veri. Un universo sempre più vasto e ormai accessibile a tutti: dagli studenti newyorkesi che realizzano video in cui il preside della loro scuola pronuncia frasi razziste allo streamer di Twitch che crea video pornografici usando le facce dei suoi conoscenti.

Motivo? Divertirsi e creare contenuti virali sul web, ma anche umiliare e ricattare persone, diffondere disinformazione, nonché distruggere l’immagine pubblica di celebrità e politici.

Ecco perché, in parallelo con l’evoluzione delle tecnologie di Generative AI in grado di creare contenuti sempre più realistici, è diventata necessaria l‘introduzione di strumenti di fact-checking in grado di smascherare immagini e video falsi.

In questo contesto, qualche mese fa, il colosso dell’informatica Intel Corporation ha annunciato la creazione di una nuova tecnologia di rilevamento dei deep fake, chiamata FakeCatcher, capace di identificare un deep fake video nel 96% dei casi.

Come? Rilevando il flusso sanguigno nei volti. Secondo i curatori del progetto, Ilke Demir e Umur Ciftci, quando il sangue viene pompato nelle vene, ad esempio durante un discorso accorato o una semplice passeggiata, i tessuti facciali mutano microscopicamente di colore. Ebbene questi cambiamenti minimi nella carnagione non sono (ancora) replicabili dai software usati per generare i deep fake.

“La domanda che ci poniamo è: cosa caratterizza gli esseri umani?”, ha detto Demir, sottolineando che, nel caso di FakeCatcher, l’approccio non è più quello del deep learning, in cui si cerca di trovare ciò che è falso in un video, ma l’opposto

Ovviamente FakeCatcher non è l’unico tool anti-deep fake sul mercato. Tra gli altri, possiamo citare AiOrNot, Reality Defender, Attestiv, Blackbird.AI, Sensity AI nonché il decano Microsoft Authenticator

Lanciato nel 2020 e capace di esaminare foto o video attribuendo un punteggio di affidabilità, il tool era in grado di analizzare minuziosamente i singoli frame e scandagliare le tonalità di colore alla ricerca di incongruenze. 

Peccato che, nel tempo, i software di deep fake generation hanno trovato il modo di bypassare il “quality control” in questione, facendone crollare il tasso di affidabilità. 

Un chiaro esempio di come, anche in questo campo, non esistano soluzioni definitive, ma solo una serie di mosse più o meno incisive. Né più né meno come in un’infinita partita a scacchi.

 

Leggi anche: “Uno, nessuno, ChatGPT”, un libro che riflette sull’intelligenza artificiale

Benedetto Antuono

A cura di

In questo articolo:

Potrebbero interessarti

PODCAST

Patrizia Rutigliano (Poste Italiane): una transizione ecologica equa è possibile
Cultura e Società

Patrizia Rutigliano (Poste Italiane): una transizione ecologica equa è possibile

Ospite: Patrizia Rutigliano

WOW - WOMEN ON WEB
con Federica Meta, Francesca Pucci

PODCAST

Donne al centro della scienza: quanto manca alla rivoluzione?
Cultura e Società

Donne al centro della Scienza: quanto manca alla rivoluzione?

WOW - WOMEN ON WEB
con Federica Meta, Francesca Pucci

PODCAST

NaN - nuovo podcast
Intelligenza artificiale

NaN – Not a Name, il nuovo podcast “esplosivo” sulle AI

NaN - Not a Name
con Michele Stingo, Enrico Iannucci

PODCAST

Health

La sostenibilità nel settore residenziale: comfort abitativo e rispetto dell’ambiente

Ospite: Paolo Mezzalama

GREENTOPIA
con Laura Scrimieri, Ilaria Tana

PODCAST

Madè (CONTENTS): così l'AI sta cambiando il mondo del lavoro
Intelligenza artificiale

Tommaso Madè (Contents): “Così l’AI sta cambiando il mondo del lavoro”

Ospite: Tommaso Madè

LEGALTECH SHOW
con Silvano Lorusso, Nicolino Gentile

PODCAST

Superstudio Events: pionieri della sostenibilità negli spazi per grandi eventi
Sostenibilità

I grandi eventi si fanno sempre più green

Ospite: Tommaso Borioli

GREENTOPIA
con Laura Scrimieri, Ilaria Tana