14 dicembre 2022

Lensa AI. I rischi dell’app che sta diventando sempre più virale

di

L'app di intelligenza artificiale sta spopolando sui feed di ogni social. Dietro tale proliferazione di "immagini gradevoli", tuttavia, si nascondono pericoli per dati e privacy. Non solo: si strizza l'occhiolino a canoni occidentalizzati, sessualizzati e misogini. Ci avete fatto caso?

Nelle ultime settimane, TikTok, Instagram, Facebook e altri social si stanno riempiendo di ritratti e avatr che sembrano creati da illustratori professionisti. In realtà si tratta di immagini prodotte da Lensa AI, applicazione sviluppata dalla società Prisma Labs nel 2018.

Non si tratta dell’unico strumento disponibile che sfrutta l’intelligenza artificiale per generare immagini: tra le app in ascesa ci sono anche Dall-E, Midjourney e Stable Diffusion, ma Lensa ha velocemente scalato le classifiche di App Store e Google Play.

Secondo i dati forniti da Sensor Tower, nello stesso mese l’app è stata scaricata 1,6 milioni di volte, con un aumento del 631% rispetto a ottobre 2022. Oltre quattro milioni di persone in tutto il mondo hanno poi scaricato l’app nei primi cinque giorni di dicembre. E nello stesso arco di tempo, gli utenti hanno speso oltre otto milioni di dollari. In totale, finora, dal suo debutto nel 2018, l’app è stata scaricata circa 22,2 milioni di volte.

Il funzionamento è molto semplice: i ritratti generati sono versioni ritoccate della foto originale, calati in ambientazioni di dubbio gusto che vanno da quelle simil pubblicitarie alle atmosfere fantasy e così via.

Tutto molto interessante e divertente se non fosse per l’aspetto riguardante la privacy, che sta destando non pochi dubbi. Il sistema di creazione degli avatar si basa sul generatore di immagini Stable Diffusion, che fonda il proprio lavoro sull’utilizzo di grandi database di file di foto prese dal web, rientrando a pieno titolo in quei servizi accusati di sfruttamento di opere che non rispettano i diritti d’autore. Per non parlare delle frequenti fughe di dati sensibili che seguono il boom di download di app.

Un’altra questione da non sottovalutare è che l’IA assorbe enormi quantità di dati generati dagli utenti e sempre più frequentemente è portata ad agire secondo gli stessi pregiudizi che animano la nostra società. Qualche esempio? Caricando una foto di una donna l’app genera immagini fortemente sessualizzate, rendendo facile la creazione di immagini pornografiche senza consenso. Gli uomini sono spesso “trasformati” in cavalieri, le donne in innocenti fatine, mentre, come succede da tempo con i filtri instagram e snapchat, i lineamenti e i tratti etnici vengono omologati, appiattiti, schiariti e ricondotti a stereotipi di “bellezza” irreali e indirizzati verso i canoni caucasici.

Diritto d’autore, sessimo e violazione della privacy. Se l’intelligenza artificiale è ora alla portata di tutti, bisognerebbe valutare con attenzione i rischi e i benefici di questi servizi, sia in fatto di tutela della privacy che di rappresentazione.

LASCIA UN COMMENTO

Per favore inserisci il tuo commento!
Per favore inserisci il tuo nome qui