Lensa AI. I rischi dell’app che sta diventando sempre più virale

Il funzionamento è molto semplice: i ritratti generati sono versioni ritoccate della foto originale, calati in ambientazioni di dubbio gusto che vanno da quelle simil pubblicitarie alle atmosfere fantasy e così via.

Tutto molto interessante e divertente se non fosse per l’aspetto riguardante la privacy, che sta destando non pochi dubbi. Il sistema di creazione degli avatar si basa sul generatore di immagini Stable Diffusion, che fonda il proprio lavoro sull’utilizzo di grandi database di file di foto prese dal web, rientrando a pieno titolo in quei servizi accusati di sfruttamento di opere che non rispettano i diritti d’autore. Per non parlare delle frequenti fughe di dati sensibili che seguono il boom di download di app.

Un’altra questione da non sottovalutare è che l’IA assorbe enormi quantità di dati generati dagli utenti e sempre più frequentemente è portata ad agire secondo gli stessi pregiudizi che animano la nostra società. Qualche esempio? Caricando una foto di una donna l’app genera immagini fortemente sessualizzate, rendendo facile la creazione di immagini pornografiche senza consenso. Gli uomini sono spesso “trasformati” in cavalieri, le donne in innocenti fatine, mentre, come succede da tempo con i filtri instagram e snapchat, i lineamenti e i tratti etnici vengono omologati, appiattiti, schiariti e ricondotti a stereotipi di “bellezza” irreali e indirizzati verso i canoni caucasici.

Diritto d’autore, sessimo e violazione della privacy. Se l’intelligenza artificiale è ora alla portata di tutti, bisognerebbe valutare con attenzione i rischi e i benefici di questi servizi, sia in fatto di tutela della privacy che di rappresentazione.