Uno studio dell’Università di Stanford, pubblicato su Science, mostra come i chatbot che assecondano gli utenti, ossia le Sycophantic AI (una sorta di AI Yes-Man), possano influenzare empatia, autocritica e relazioni umane
Avere sempre ragione è davvero un vantaggio? Se a confermare ogni nostra opinione non è un amico, ma un chatbot, forse no. Gli esperti parlano di “Sycophantic AI“, traducibile come intelligenza artificiale adulatrice, compiacente o comunque servile; il fenomeno studiato è la sycophancy dei modelli linguistici, cioè la tendenza di alcuni modelli di intelligenza artificiale ad assecondare gli utenti, confermando le loro convinzioni anche quando sono discutibili o palesemente errate.
Questo effetto potrebbe avere conseguenze molto più profonde di quanto immaginiamo. Sempre più persone, infatti, si affidano ai chatbot per chiedere consigli o sfogarsi, e un nuovo studio dell’Università di Stanford, pubblicato sulla rivista Science, suggerisce che ricevere una costante approvazione dall’AI può influenzare il nostro modo di affrontare i conflitti e di confrontarci con gli altri.
Negli ultimi anni abbiamo iniziato a chiedere all’intelligenza artificiale di fare un po’ di tutto: scrivere email, organizzare viaggi, studiare, programmare, ricette, dare consigli. E, fin qui, ci siamo certamente impigriti, ma è come l’eterna lotta tra le scale normali e quelle mobili (volendo semplificare e forse anche un po’ banalizzare, eh). Sempre più spesso, però, le chiediamo anche qualcosa di molto più personale: ascoltarci.
Leggi anche: Così vicini, così lontani
Secondo recenti indagini di Pew Research Center e YouGov, un numero crescente di giovani utilizza i chatbot per parlare delle proprie emozioni, chiedere consigli o confidare pensieri che, fino a poco tempo fa, sarebbero stati raccontati prima a un amico o a un partner. Il 23% delle persone sotto i 30 anni ammette di aver confidato un segreto a un programma informatico prima di parlarne con un amico o un partner. È un cambiamento culturale che racconta quanto l’intelligenza artificiale stia entrando nella nostra quotidianità, ma anche quanto il suo ruolo stia diventando sempre più delicato.
A rendere ancora più interessante il dibattito è un nuovo studio dell’Università di Stanford, pubblicato sulla prestigiosa rivista Science, che si è posto una domanda semplice quanto cruciale: cosa succede quando un chatbot tende a darci sempre ragione?
La ricerca, intitolata Sycophantic AI decreases prosocial intentions and promotes dependence, ha coinvolto 2.405 partecipanti e ha confrontato il comportamento di 11 diversi modelli linguistici con quello di persone reali. In questo studio i chatbot hanno mostrato un comportamento adulatorio il 49% di volte in più rispetto agli esseri umani, confermando le convinzioni degli utenti anche quando queste erano discutibili o apertamente sbagliate.
Ma questo tipo di interazione, alla fine, riesce a modificare il nostro comportamento?
Nei tre esperimenti condotti dai ricercatori è emerso che anche una sola conversazione con un chatbot particolarmente compiacente può ridurre la disponibilità delle persone ad assumersi le proprie responsabilità o a prendere in considerazione il punto di vista degli altri.
In altre parole, quando riceviamo una continua conferma delle nostre opinioni, diventiamo meno inclini al confronto.
E forse, visto che viviamo in una società sempre più connessa ma siamo sempre più isolati non è il massimo, non trovate?
La Stanford University, comunque, ha pubblicato un approfondimento su tutto questo tema, che potete consultare a questo link.
Leggi anche: Tutto quello che sappiamo del film Artificial su Sam Altman
In generale, questo meccanismo ricorda quello delle Echo Chamber, le camere dell’eco dei social, nelle quali tendiamo a vedere soprattutto contenuti che rafforzano ciò che già pensiamo. La differenza è che, questa volta, la conferma arriva da un interlocutore con cui possiamo instaurare una conversazione apparentemente empatica e personalizzata.
Gli stessi ricercatori sottolineano che il problema non è l’intelligenza artificiale in sé, ma un assistente conversazionale costruito per compiacere l’utente può risultare più piacevole nell’immediato, rischiando, tuttavia, di diventare un cattivo consigliere quando entrano in gioco decisioni personali. Quindi, è un problema, come sempre, di progettazione dell’intelligenza artificiale.
Non sorprende, quindi, che il tema inizi a riflettersi anche nella sfera sentimentale. Secondo un sondaggio realizzato dall’app di dating Hily, il 70% degli appartenenti alla Generazione Z afferma che non vorrebbe avere una relazione con una persona che utilizza l’AI per gestire le proprie emozioni. Anche se in questo caso non si tratta di una ricerca scientifica, è comunque un segnale interessante su come stia cambiando la percezione sociale dell’intelligenza artificiale.
Il problema di tutta questa storia, alla fine dei conti, è che non possiamo sostituire quella voce a quella delle persone reali, non possiamo sostituire il conflitto, la frizione con l’altro.
Il conflitto ci serve! I cambi di rotta! Torniamo a contraddirci, a cambiare idea. Mettiamoci in discussione. Le relazioni umane possono aiutarci a crescere, anche e soprattutto quando la risposta che riceviamo non è quella che speravamo di sentire. E questo, con buona pace di tutti noi tecnofili, un’AI non può ancora sostituirlo.
