Dopo il successo di Lensa, si moltiplicano le app che creano avatar grazie all’AI

Lensa è stata solo la prima. Lanciata da Prisma Labs nel 2018, ma diventata virale nelle ultime settimane, crea “Magic Avatar” grazie all’AI a partire da selfie reali. Ci sono, però, delle criticità

 

 

Un ritratto della sottoscritta

È molto probabile che, scorrendo la home di Facebook o Instagram, di recente vi siate imbattuti in “ritratti” ritoccati, con ambientazioni oniriche e stili irrealistici, che vanno dal fantasy all’anime, passando dall'”effetto dipinto” e dallo scenario medievale. Ebbene, tutte queste immagini sono state create – meglio sarebbe dire rielaborate – dall’intelligenza artificiale alla base di Lensa e delle app affini, per esempio Dawn – AI Avatars, spuntate come funghi negli ultimi giorni sugli store digitali.

Ognuna di queste applicazioni utilizza, come base di partenza, alcune fotografie reali del soggetto, da cui apprende, ad esempio, la distanza tra gli occhi e, in generale, il posizionamento e l’orientamento degli elementi del volto.

Prisma Labs, l’azienda che ha lanciato Lensa, era già diventata virale nel 2016 grazie a un’applicazione simile, Prisma, che trasformava le foto realizzate con lo smartphone in dipinti. Indubbiamente Lensa è più evoluta: proprio come DALL-E 2 (generatore di immagini su input testuale di cui abbiamo parlato per la prima volta qui), l’app studia una mole enorme di dati “fisici” per creare risultati sempre migliori.

Solo nei primi cinque giorni di dicembre circa quattro milioni di persone nel mondo hanno scaricato Lensa, spendendo complessivamente oltre otto milioni di dollari. Sì, perché gli avatar si pagano (come minimo 2 euro e 20 centesimi per ottenere 50 esemplari) e, se non si sta attenti a disdire per tempo, scatta l’abbonamento da 29,99 euro all’anno.

 

Leggi e ascolta anche: Il futuro dell’AI, tra algocrazia e algoretica

 

Mosse dalla curiosità di vederci rielaborare da un’AI, anche io e Tatiana Sharon Vani abbiamo testato la funzione Magic Avatar dell’app. A corredo di questo articolo trovate alcuni nostri risultati, più o meno felici.

Un ritratto di T. Sharon Vani

Tutto bene, quindi? Non proprio. Il successo di Lensa ha posto diverse questioni, anzitutto relative al tema privacy.

A questo proposito consigliamo di leggere l’informativa e le condizioni d’uso dell’app per capire a chi state cedendo i vostri “dati biometrici” (qui per approfondire il concetto) e in che modo saranno utilizzati.

Stando alla Privacy Policy, le immagini che “diamo in pasto” all’AI di Lensa, vengono trattate in modo separato rispetto ad altri dati. Precisamente si legge che i dati sono “anonimizzati”, ma il termine più appropriato dovrebbe essere “dissociati” dagli altri dati personali poiché anche un’immagine di per sé è un dato personale.

Incoraggia apprendere che “in caso di utilizzo della funzione Magic Avatar, le foto vengono automaticamente eliminate dopo la generazione dei risultati AI”. Lensa dichiara di non utilizzare i dati del viso per “nessun motivo diverso dall’applicazione di filtri o effetti stilizzati, a meno che non sia dato l’esplicito consenso a utilizzare foto o video per uno scopo diverso”, che i dati facciali non saranno utilizzati per identificare i singoli utenti, né per scopi di autenticazione, pubblicità o marketing, né per creare un profilo utente o tentare, facilitare e incoraggiare terze parti a identificare utenti anonimi o a ricostruirne il profilo.

 

Leggi anche: L’intelligenza artificiale che dipinge i nostri testi

 

Ancora un ritratto della sottoscritta in stile Fantasy

Se è vero che Lensa non effettua trattamenti invasivi con le foto originarie né con i dati biometrici degli utenti, leggendo la sezione Terms & Conditions si deduce, però, che l’app si riserva poteri molto ampi rispetto alle immagini derivate elaborate dall’intelligenza artificiale.

Utilizzando Lensa, infatti, le si concede “una licenza perpetua, irrevocabile, non esclusiva, esente da royalty, mondiale, interamente pagata, trasferibile, sub-licenziabile per utilizzare, riprodurre, modificare, distribuire, creare opere derivate dei contenuti dell’utente”, senza che sia previsto alcun compenso per quest’ultimo. In particolare, taggando Lensa sui social network a corredo delle immagini realizzate dall’AI, l’utente concede alla società il diritto di utilizzare quel contenuto o qualsiasi sua parte allo scopo di promuovere e pubblicizzare l’app e i servizi della società (questa licenza di commercializzazione, però, può essere revocata facendone richiesta all’indirizzo e-mail contact@lensa-ai.com).

Per approfondire gli ulteriori risvolti del tema rimando all’esaustivo articolo di Agenda Digitale “Perché il successo di Lensa deve farci preoccupare tutti”.

Dopo lo scoppio delle prime polemiche, Andrey Usoltsev, AD e co-fondatore di Prisma Labs, in un’email indirizzata a “Wired US” ha dichiarato (come si legge qui) che l’azienda è al lavoro per aggiornare l’informativa sulla privacy e che

“Lensa utilizza una copia del modello di Stable Diffusion, cui insegna a riconoscere il volto sulle immagini caricate per ogni caso particolare. Ciò significa che esiste un modello separato per ogni singolo utente. Le foto sono eliminate dai server non appena vengono generati gli avatar. I server si trovano negli Stati Uniti”.

 

Leggi e ascolta anche: L’AI di Google è davvero cosciente?

 

Un ritratto di T. Sharon Vani con modalità Focus

Uno degli aspetti su cui Lensa dovrà verosimilmente cambiare marcia è proprio quello del trasferimento dei dati. Al momento viene effettuato a favore di server USA e tanto dovrebbe bastare all’utente, insieme alla precisazione che l’app ha provveduto a effettuare le valutazioni di impatto necessarie. Al momento non è dato sapere quali.

Le polemiche suscitate dal successo di questa e altre applicazioni di arte generativa non si stanno limitando, però, alle modalità di trattamento e trasferimento dei dati.

Come era già successo per DALL-E 2, le “creazioni” dell’AI sono oggetto di un acceso dibattito all’interno della comunità artistica. Infatti, questi generatori di immagini sono accusati di realizzare immagini nello stile riconoscibile di alcuni artisti, senza richiedere il loro consenso e senza prevedere per questo alcun tipo di retribuzione.

Lensa si è attirata critiche anche per via di alcuni contenuti considerati ipersessualizzati, razzisti e sessisti. Non solo, a quanto pare l’app è abilista, ovvero fa “sparire” le disabilità, avendo appreso in rete la standardizzazione dei corpi.

Provando a fare una sintesi, pur riconoscendo gli sforzi di Prisma Labs, ad esempio, sul fronte del trattamento dei dati biometrici, il consiglio della nostra redazione è di valutare bene i pro e i contro e di usare Lensa et similia con cautela (per stare più sereni, ad esempio, potete eliminare manualmente le vostre foto dall’app e revocare la licenza di commercializzazione delle opere derivate via e-mail).

 

Leggi anche: Che cosa sappiamo su chatGPT, l’AI virale sui social media

 

Sabrina Colandrea

Potrebbero interessarti

PODCAST

Cultura e Società

Fenomenologia del cyberstalking e violenza di genere in rete

Ospite: Elisa Giomi

WOW - WOMEN ON WEB
con Federica Meta, Francesca Pucci

PODCAST

Pornhub e il Digital Service Act: nuove regole per la tutela online
Big Data

Gli impatti del Digital Services Act. Il caso Pornhub

Ospite: Fulvio Sarzana, Marco Scialdone

A LITTLE PRIVACY, PLEASE!
con Sergio Aracu, Marco Trombadore

PODCAST

Nell'ultimo decennio, la guida autonoma ha catturato l'immaginazione di milioni di persone in tutto il mondo. Un fenomeno che ha trascinato con sé promesse di maggiore sicurezza stradale, efficienza e comodità. Tuttavia, dietro questa innovazione che sembra appartenere a un futuro lontano, si cela un intricato labirinto di responsabilità legali e sfide normative che devono ancora essere affrontate e risolte. Il Professore Enrico Al Mureden, figura di spicco nel panorama giuridico e accademico italiano, ci accompagna in un viaggio attraverso i livelli della guida autonoma, svelando le complessità che circondano questo fenomeno. I Livelli della Guida Autonoma: Decifrando la Classificazione SAE Quando si parla di guida autonoma, ci si imbatte spesso nei livelli definiti dalla Society of Automotive Engineers (SAE). Questi livelli, che vanno dall'1 al 5 (con l'aggiunta del "Livello 0"), delineano il grado di automazione presente nei veicoli. Da automobili "storiche" che richiedono l'input completo del conducente (Livello 0) fino alla piena automazione senza necessità di intervento umano (Livello 5), il panorama è estremamente variegato. La Responsabilità Legale: Un Terreno Ancora Inesplorato Con l'avvento della guida autonoma, sorgono interrogativi cruciali riguardanti la responsabilità legale in caso di incidenti o malfunzionamenti dei sistemi autonomi. Chi è da ritenere responsabile in situazioni di emergenza? Il conducente? Il produttore del veicolo? O forse entrambi? Il quadro normativo attuale non offre ancora risposte esaustive a queste domande, lasciando un vuoto che deve essere colmato al più presto. Sebbene siano stati fatti passi avanti, come l'introduzione dell'articolo 34bis "Guida Autonoma", ci troviamo ancora di fronte a una fase di transizione e adattamento. L'Integrazione Tecnologica e Sociale: Una Sinergia Necessaria La guida autonoma non è solo una questione di tecnologia, ma anche di integrazione sociale e legale. È cruciale coinvolgere esperti non solo nel campo dell'ingegneria, ma anche della filosofia, sociologia e giurisprudenza per garantire un approccio olistico e sostenibile a questa rivoluzione. Il Futuro della Guida Autonoma: Oltre le Macchine Isolate È importante ricordare che la guida autonoma non esiste in un vuoto tecnologico, ma è parte integrante di un contesto più ampio. La collaborazione tra settori e la revisione delle normative sono fondamentali per garantire una transizione fluida verso un futuro in cui la guida autonoma sarà la norma piuttosto che l'eccezione. In conclusione, la guida autonoma rappresenta una delle sfide più affascinanti e complesse del nostro tempo. Tuttavia, affrontare queste sfide richiede non solo innovazione tecnologica, ma anche una profonda riflessione etica e legale. Solo integrando tutte queste componenti potremo realizzare pienamente il potenziale trasformativo della guida autonoma, garantendo nel contempo la sicurezza e la responsabilità per tutti gli attori coinvolti.
Governance tecnologica

Guida autonoma: tecnologia e responsabilità legale

Ospite: Enrico Al Mureden

LEGALTECH SHOW
con Silvano Lorusso, Nicolino Gentile

PODCAST

Cultura e Società

La solitudine del sopravvissuto

CIFcast
con Lorenzo Davia, Damiano Lotto, Emiliano Maramonte

PODCAST

Patrizia Rutigliano (Poste Italiane): una transizione ecologica equa è possibile
Cultura e Società

PATRIZIA RUTIGLIANO (Poste Italiane): una transizione ecologica equa è possibile

Ospite: Patrizia Rutigliano

WOW - WOMEN ON WEB
con Federica Meta, Francesca Pucci

PODCAST

Donne al centro della scienza: quanto manca alla rivoluzione?
Cultura e Società

Donne al centro della Scienza: quanto manca alla rivoluzione?

WOW - WOMEN ON WEB
con Federica Meta, Francesca Pucci