DeepNude è stata eliminata a pochi giorni dal lancio, dopo molte polemiche: chiunque poteva caricare l’immagine di una persona e ottenere un corrispettivo in cui appariva nuda
I creatori di una controversa app che permetteva di creare deepfake di donne nude, partendo da un’immagine nella quale apparivano vestite, è stata eliminata a pochi giorni dal lancio.
“Abbiamo creato questa app per far divertire gli utenti. Non immaginavamo che sarebbe diventata virale e che non saremmo stati capaci di controllare il traffico”, hanno scritto i creatori di DeepNude, l’applicazione in questione, in un post su Twitter. “La possibilità che le persone ne abusino è troppo alta”.
— deepnudeapp (@deepnudeapp) 27 giugno 2019
La app, di cui esistevano due versioni – una gratis e una premium, a pagamento – era stata scoperta nei giorni scorsi da Samantha Cole, giornalista di Vice, che ne aveva scritto in un articolo dopo averla provata di persona.
Come funzionava la app
DeepNude era molto semplice da utilizzare: tutte le volte che si caricava una foto, il sistema creava, grazie all’intelligenza artificiale, un doppione in cui la persona ritratta nell’immagine appariva senza vestiti. Quello che faceva era, essenzialmente, sostituire i vestiti con un seno e una vagina abbinati al corpo dall’Ia (era possibile creare solo deepfake di donne, ma non di uomini).
Cole scriveva che i risultati non erano sempre ottimi. DeepNude, per esempio, era riuscita a svestire Kim Kardashian ma nel doppione compariva ancora il laccetto del costume. Inoltre l’app non funzionava affatto bene quando c’era una luce particolare o la foto era stata scattata da una prospettiva strana. Se però l’immagine iniziale raffigurava una donna che indossava un abito scollato o era in costume, diventava davvero difficile accorgersi di avere di fronte un falso.
In teoria, nessuno sarebbe dovuto incappare in questo rischio: tutte le foto create dalla versione gratis della app avevano una filigrana che copriva parte dell’immagine. In quelle prodotte con la versione premium, che era a pagamento, compariva invece la scritta “FAKE” in alto a sinistra. Come sottolineava Cole, però, chiunque avesse avuto un minimo di conoscenza informatica o avesse saputo usare software di ritocco fotografico come Photoshop, avrebbe potuto togliere sia la filigrana sia la scritta senza problemi, per poi diffondere il deepfake online.
Cosa ne pensava il suo creatore
Vice era riuscita a mettersi in contatto con il creatore di DeepNude via email. Tuttora non si sa chi sia, quanti anni abbia e quale sia la sua nazionalità. A Cole, aveva solo chiesto solo di essere chiamato “Alberto”.
Nell’intervista, aveva detto di aver creato la app grazie a un software open source sviluppato dall’università di Berkley, in California, e che funzionava solo con le foto delle donne perché era più facile trovare in rete foto in cui appaiono nude. La sua intenzione era però quella di aggiornare la app e permettere agli utenti di creare anche deepfake di uomini.
Alberto non si definisce un voyeur né un grande appassionato di tecnologia: ha detto di aver creato la app solo per una curiosità personale. Lo affascinava l’intelligenza artificiale e quello che poteva fare e si era divertito a sperimentare questa funzionalità. Mentre lo faceva, si era anche chiesto se sarebbe stato giusto diffonderla. “Penso che le cose che si possono fare con DeepNude, si possano fare anche con Photoshop”, aveva confessato alla giornalista. “Mi sono anche detto: la tecnologia è pronta, alla portata di tutti. Se qualcuno ha brutte intenzioni, il fatto che DeepNude esista non cambierà poi molto… Se non lo faccio io, lo farà qualcun altro tra un anno”.
Cosa dicevano gli esperti
Non ci voleva tuttavia un genio per capire i pericoli di DeepNude: chiunque poteva caricare l’immagine di una persona – di una qualsiasi persona – ottenere un corrispettivo in cui appariva nuda, violare la sua privacy e danneggiare la sua reputazione.
Hany Farid, un professore di informatica alla Berkley e uno dei più grandi esperti di deepfake, è rimasto scioccato dalla app. A Vice ha detto: “Dovremo diventare sempre più bravi nella lotta ai deep fake. I ricercatori dovranno mettere a punto sistemi per aiutare le persone a capire che un’immagine o un video è falso, le piattaforme e i social network dovranno limitarne la diffusione di questi contenuti e i politici adottare una legislazione efficace”.
Potrebbe interessarti anche