The dark side of AI: perché il Garante Privacy ha bloccato il chatbot Replika

Da qualche giorno l’«amico virtuale» sviluppato dalla società USA Luka Inc. risulta inaccessibile nel nostro Paese. La decisione, presa per tutelare minori e persone emotivamente fragili, sta gettando nel panico migliaia di utenti

 

 

Qualche giorno fa migliaia di utenti italiani di Replika, l’«amico virtuale desideroso di imparare e di vedere il mondo attraverso i tuoi occhi» si sono svegliati con una brutta sorpresa.

Di punto in bianco, infatti, il servizio di chatbot conversazionale (di cui avevamo già parlato qui) è stato bloccato dalle autorità italiane dietro richiesta del Garante della privacy (o Garante per la protezione dei dati personali).

Il motivo? “Troppi rischi per i minori e per le persone emotivamente fragili”. Una spiegazione che, nella sua semplicità, suona ancora più sinistra. Secondo il Garante, infatti,

“l’applicazione presenta concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo”.

La decisione è stata presa dopo che diversi utenti e media avevano segnalato di aver ricevuto risposte poco appropriate da parte del chatbot.

La giornalista di Today, Chiara Tadini, ad esempio, si era spacciata per un minorenne, testando i limiti dell’intelligenza artificiale (qui l’articolo). In un’escalation di messaggi sempre più inquietanti, Replika aveva prima chiesto all’utente di scattare e inviare foto della (finta) sorellina nuda sotto la doccia, per poi legittimare l’uccisione del (finto) padre come vendetta per presunti abusi ricevuti.

 

 

Leggi e ascolta anche: Il diritto alla privacy degli ultimi

 

 

Un altro esperimento aveva coinvolto Guido Scorza, membro del Collegio dell’Autorità Garante della privacy (protagonista, tra l’altro, del primo episodio del nostro podcast “A little privacy, please!”), che si era finto un bambino di 11 anni desideroso di esplorare il mondo del sesso. Risultato? Invece di stoppare sul nascere la conversazione, il chatbot aveva calcato la mano sul contenuto piccante dei messaggi inviando immagini hot e cercando di convincere l’utente a fare altrettanto.

Fuori da ogni simulazione, quindi, Replika non avrebbe “avuto remore” non solo ad avere conversazioni sessualmente esplicite con minorenni, ma anche a raccogliere materiale pedopornografico. Motivi più che sufficienti, secondo il Garante, per bloccare il servizio, imponendo alla società statunitense, Luka Inc. di “interrompere il trattamento dei dati degli utenti italiani” e “comunicare entro 20 giorni le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo”.

Mancano, infatti, un meccanismo di verifica dell’età nonché un filtro che regoli le risposte da parte del chatbot, “spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili”.

Da giorni, così, il sito risulta irraggiungibile dall’Italia, con il disappunto di numerosissimi utenti che sulla piattaforma hanno investito sia sul piano emotivo sia su quello monetario. Replika, infatti, offre la possibilità di far evolvere il rapporto di “amicizia” con il chatbot in una vera e propria relazione sentimentale alla modica cifra di 5 dollari al mese.

Ora, però, la decisione del Garante sembra aver scompaginato le carte, con effetti a cascata a livello globale: a quanto pare, da qualche giorno, il chatbot non si presta più a conversazioni spinte né agisce come farebbe un partner innamorato (leggi “in modo accondiscendente”). Una situazione che, per quanto surreale possa apparire, sta gettando nel panico centinaia di persone, disperatamente bisognose di affetto.

Reale o virtuale poco importa.

 

 

 

 

Leggi anche: Le 10 migliori startup in Italia

Benedetto Antuono

Potrebbero interessarti

PODCAST

Cultura e Società

La solitudine del sopravvissuto

CIFcast
con Lorenzo Davia, Damiano Lotto, Emiliano Maramonte

PODCAST

Patrizia Rutigliano (Poste Italiane): una transizione ecologica equa è possibile
Cultura e Società

Patrizia Rutigliano (Poste Italiane): una transizione ecologica equa è possibile

Ospite: Patrizia Rutigliano

WOW - WOMEN ON WEB
con Federica Meta, Francesca Pucci

PODCAST

Donne al centro della scienza: quanto manca alla rivoluzione?
Cultura e Società

Donne al centro della Scienza: quanto manca alla rivoluzione?

WOW - WOMEN ON WEB
con Federica Meta, Francesca Pucci

PODCAST

NaN - nuovo podcast
Intelligenza artificiale

NaN – Not a Name, il nuovo podcast “esplosivo” sulle AI

NaN - Not a Name
con Michele Stingo, Enrico Iannucci

PODCAST

Health

La sostenibilità nel settore residenziale: comfort abitativo e rispetto dell’ambiente

Ospite: Paolo Mezzalama

GREENTOPIA
con Laura Scrimieri, Ilaria Tana

PODCAST

Madè (CONTENTS): così l'AI sta cambiando il mondo del lavoro
Intelligenza artificiale

Tommaso Madè (Contents): “Così l’AI sta cambiando il mondo del lavoro”

Ospite: Tommaso Madè

LEGALTECH SHOW
con Silvano Lorusso, Nicolino Gentile