Dopo il successo di Lensa, si moltiplicano le app che creano avatar grazie all’AI

Lensa è stata solo la prima. Lanciata da Prisma Labs nel 2018, ma diventata virale nelle ultime settimane, crea “Magic Avatar” grazie all’AI a partire da selfie reali. Ci sono, però, delle criticità

È molto probabile che, scorrendo la home di Facebook o Instagram, di recente vi siate imbattuti in “ritratti” ritoccati, con ambientazioni oniriche e stili irrealistici, che vanno dal fantasy all’anime, passando dall'”effetto dipinto” e dallo scenario medievale. Ebbene, tutte queste immagini sono state create – meglio sarebbe dire rielaborate – dall’intelligenza artificiale alla base di Lensa e delle app affini, per esempio Dawn – AI Avatars, spuntate come funghi negli ultimi giorni sugli store digitali.

Ognuna di queste applicazioni utilizza, come base di partenza, alcune fotografie reali del soggetto, da cui apprende, ad esempio, la distanza tra gli occhi e, in generale, il posizionamento e l’orientamento degli elementi del volto.

Prisma Labs, l’azienda che ha lanciato Lensa, era già diventata virale nel 2016 grazie a un’applicazione simile, Prisma, che trasformava le foto realizzate con lo smartphone in dipinti. Indubbiamente Lensa è più evoluta: proprio come DALL-E 2 (generatore di immagini su input testuale di cui abbiamo parlato per la prima volta qui), l’app studia una mole enorme di dati “fisici” per creare risultati sempre migliori.

Solo nei primi cinque giorni di dicembre circa quattro milioni di persone nel mondo hanno scaricato Lensa, spendendo complessivamente oltre otto milioni di dollari. Sì, perché gli avatar si pagano (come minimo 2 euro e 20 centesimi per ottenere 50 esemplari) e, se non si sta attenti a disdire per tempo, scatta l’abbonamento da 29,99 euro all’anno.

Leggi e ascolta anche: Il futuro dell’AI, tra algocrazia e algoretica

Mosse dalla curiosità di vederci rielaborare da un’AI, anche io e Tatiana Sharon Vani abbiamo testato la funzione Magic Avatar dell’app. A corredo di questo articolo trovate alcuni nostri risultati, più o meno felici.

Tutto bene, quindi? Non proprio. Il successo di Lensa ha posto diverse questioni, anzitutto relative al tema privacy.

A questo proposito consigliamo di leggere l’informativa e le condizioni d’uso dell’app per capire a chi state cedendo i vostri “dati biometrici” (qui per approfondire il concetto) e in che modo saranno utilizzati.

Stando alla Privacy Policy, le immagini che “diamo in pasto” all’AI di Lensa, vengono trattate in modo separato rispetto ad altri dati. Precisamente si legge che i dati sono “anonimizzati”, ma il termine più appropriato dovrebbe essere “dissociati” dagli altri dati personali poiché anche un’immagine di per sé è un dato personale.

Incoraggia apprendere che “in caso di utilizzo della funzione Magic Avatar, le foto vengono automaticamente eliminate dopo la generazione dei risultati AI”. Lensa dichiara di non utilizzare i dati del viso per “nessun motivo diverso dall’applicazione di filtri o effetti stilizzati, a meno che non sia dato l’esplicito consenso a utilizzare foto o video per uno scopo diverso”, che i dati facciali non saranno utilizzati per identificare i singoli utenti, né per scopi di autenticazione, pubblicità o marketing, né per creare un profilo utente o tentare, facilitare e incoraggiare terze parti a identificare utenti anonimi o a ricostruirne il profilo.

Leggi anche: L’intelligenza artificiale che dipinge i nostri testi

Se è vero che Lensa non effettua trattamenti invasivi con le foto originarie né con i dati biometrici degli utenti, leggendo la sezione Terms & Conditions si deduce, però, che l’app si riserva poteri molto ampi rispetto alle immagini derivate elaborate dall’intelligenza artificiale.

Utilizzando Lensa, infatti, le si concede “una licenza perpetua, irrevocabile, non esclusiva, esente da royalty, mondiale, interamente pagata, trasferibile, sub-licenziabile per utilizzare, riprodurre, modificare, distribuire, creare opere derivate dei contenuti dell’utente”, senza che sia previsto alcun compenso per quest’ultimo. In particolare, taggando Lensa sui social network a corredo delle immagini realizzate dall’AI, l’utente concede alla società il diritto di utilizzare quel contenuto o qualsiasi sua parte allo scopo di promuovere e pubblicizzare l’app e i servizi della società (questa licenza di commercializzazione, però, può essere revocata facendone richiesta all’indirizzo e-mail contact@lensa-ai.com).

Per approfondire gli ulteriori risvolti del tema rimando all’esaustivo articolo di Agenda Digitale “Perché il successo di Lensa deve farci preoccupare tutti”.

Dopo lo scoppio delle prime polemiche, Andrey Usoltsev, AD e co-fondatore di Prisma Labs, in un’email indirizzata a “Wired US” ha dichiarato (come si legge qui) che l’azienda è al lavoro per aggiornare l’informativa sulla privacy e che

“Lensa utilizza una copia del modello di Stable Diffusion, cui insegna a riconoscere il volto sulle immagini caricate per ogni caso particolare. Ciò significa che esiste un modello separato per ogni singolo utente. Le foto sono eliminate dai server non appena vengono generati gli avatar. I server si trovano negli Stati Uniti”.

Leggi e ascolta anche: L’AI di Google è davvero cosciente?

Uno degli aspetti su cui Lensa dovrà verosimilmente cambiare marcia è proprio quello del trasferimento dei dati. Al momento viene effettuato a favore di server USA e tanto dovrebbe bastare all’utente, insieme alla precisazione che l’app ha provveduto a effettuare le valutazioni di impatto necessarie. Al momento non è dato sapere quali.

Le polemiche suscitate dal successo di questa e altre applicazioni di arte generativa non si stanno limitando, però, alle modalità di trattamento e trasferimento dei dati.

Come era già successo per DALL-E 2, le “creazioni” dell’AI sono oggetto di un acceso dibattito all’interno della comunità artistica. Infatti, questi generatori di immagini sono accusati di realizzare immagini nello stile riconoscibile di alcuni artisti, senza richiedere il loro consenso e senza prevedere per questo alcun tipo di retribuzione.

Lensa si è attirata critiche anche per via di alcuni contenuti considerati ipersessualizzati, razzisti e sessisti. Non solo, a quanto pare l’app è abilista, ovvero fa “sparire” le disabilità, avendo appreso in rete la standardizzazione dei corpi.

Provando a fare una sintesi, pur riconoscendo gli sforzi di Prisma Labs, ad esempio, sul fronte del trattamento dei dati biometrici, il consiglio della nostra redazione è di valutare bene i pro e i contro e di usare Lensa et similia con cautela (per stare più sereni, ad esempio, potete eliminare manualmente le vostre foto dall’app e revocare la licenza di commercializzazione delle opere derivate via e-mail).

Leggi anche: Che cosa sappiamo su chatGPT, l’AI virale sui social media