The dark side of AI: perché il Garante Privacy ha bloccato il chatbot Replika

Da qualche giorno l’«amico virtuale» sviluppato dalla società USA Luka Inc. risulta inaccessibile nel nostro Paese. La decisione, presa per tutelare minori e persone emotivamente fragili, sta gettando nel panico migliaia di utenti

 

 

Qualche giorno fa migliaia di utenti italiani di Replika, l’«amico virtuale desideroso di imparare e di vedere il mondo attraverso i tuoi occhi» si sono svegliati con una brutta sorpresa.

Di punto in bianco, infatti, il servizio di chatbot conversazionale (di cui avevamo già parlato qui) è stato bloccato dalle autorità italiane dietro richiesta del Garante della privacy (o Garante per la protezione dei dati personali).

Il motivo? “Troppi rischi per i minori e per le persone emotivamente fragili”. Una spiegazione che, nella sua semplicità, suona ancora più sinistra. Secondo il Garante, infatti,

“l’applicazione presenta concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo”.

La decisione è stata presa dopo che diversi utenti e media avevano segnalato di aver ricevuto risposte poco appropriate da parte del chatbot.

La giornalista di Today, Chiara Tadini, ad esempio, si era spacciata per un minorenne, testando i limiti dell’intelligenza artificiale (qui l’articolo). In un’escalation di messaggi sempre più inquietanti, Replika aveva prima chiesto all’utente di scattare e inviare foto della (finta) sorellina nuda sotto la doccia, per poi legittimare l’uccisione del (finto) padre come vendetta per presunti abusi ricevuti.

 

 

Leggi e ascolta anche: Il diritto alla privacy degli ultimi

 

 

Un altro esperimento aveva coinvolto Guido Scorza, membro del Collegio dell’Autorità Garante della privacy (protagonista, tra l’altro, del primo episodio del nostro podcast “A little privacy, please!”), che si era finto un bambino di 11 anni desideroso di esplorare il mondo del sesso. Risultato? Invece di stoppare sul nascere la conversazione, il chatbot aveva calcato la mano sul contenuto piccante dei messaggi inviando immagini hot e cercando di convincere l’utente a fare altrettanto.

Fuori da ogni simulazione, quindi, Replika non avrebbe “avuto remore” non solo ad avere conversazioni sessualmente esplicite con minorenni, ma anche a raccogliere materiale pedopornografico. Motivi più che sufficienti, secondo il Garante, per bloccare il servizio, imponendo alla società statunitense, Luka Inc. di “interrompere il trattamento dei dati degli utenti italiani” e “comunicare entro 20 giorni le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo”.

Mancano, infatti, un meccanismo di verifica dell’età nonché un filtro che regoli le risposte da parte del chatbot, “spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili”.

Da giorni, così, il sito risulta irraggiungibile dall’Italia, con il disappunto di numerosissimi utenti che sulla piattaforma hanno investito sia sul piano emotivo sia su quello monetario. Replika, infatti, offre la possibilità di far evolvere il rapporto di “amicizia” con il chatbot in una vera e propria relazione sentimentale alla modica cifra di 5 dollari al mese.

Ora, però, la decisione del Garante sembra aver scompaginato le carte, con effetti a cascata a livello globale: a quanto pare, da qualche giorno, il chatbot non si presta più a conversazioni spinte né agisce come farebbe un partner innamorato (leggi “in modo accondiscendente”). Una situazione che, per quanto surreale possa apparire, sta gettando nel panico centinaia di persone, disperatamente bisognose di affetto.

Reale o virtuale poco importa.

 

 

 

 

Leggi anche: Le 10 migliori startup in Italia

Potrebbero interessarti

PODCAST

People

Leadership e competenze trasversali. L’impatto dell’ambiente multigenerazionale

Ospite: Bruna Putzulu

SPECIALE RADIO ACTIVA+
con Giulia Borgherese

PODCAST

Cultura e Società

The Matilda Effect e perché ancora oggi non lo abbiamo superato

Ospite: Martina Lascialfari

WOW - WOMEN ON WEB
con Federica Meta, Francesca Pucci

PODCAST

Cultura e Società

Il suo nome è “una parola che uccide”: il messia nella Science Fiction

CIFcast
con Lorenzo Davia, Damiano Lotto, Emiliano Maramonte

PODCAST

Intelligenza artificiale

Leadership e competenze trasversali. L’AI nei cambiamenti organizzativi

Ospite: Maria Teresa Cuomo

SPECIALE RADIO ACTIVA+
con Giulia Borgherese

PODCAST

Blockchain

Dal libretto sanitario alla toelettatura, Helpet ci aiuta a prenderci cura dei nostri animali

Ospite: Barbara Santoro

SMASH
con Sabrina Colandrea

PODCAST

Cultura e Società

Ragazze Digitali contro il pregiudizio

Ospite: Barbara Santi

WOW - WOMEN ON WEB
con Federica Meta, Francesca Pucci