Seleziona una pagina
giovedì, Mar 09

Emma Watson: centinaia di annunci deepfake usano il volto dell’attrice



Da Wired.it :

Negli ultimi due giorni molti utenti di Facebook hanno avuto l’occasione di imbattersi in un annuncio pubblicitario che mostra una donna identica ad Emma Watson sorridere timidamente e poi chinarsi verso la telecamera, dando l’impressione di iniziare un atto sessuale. Ma no, la protagonista del video non è la nostra amata Hermione Granger. L’annuncio, infatti, è parte di una campagna promozionale di un’app deepfake, che consente agli utenti di sostituire il volto del protagonista di un video con qualunque altro a loro disposizione – proprio come nel caso dell’annuncio della Watson. D’altronde, già da un po’ la  tecnologia viene usata per realizzare pornografia non consensuale con i volti di celebrità, influencer o chiunque altro, compresi i bambini. Ma la campagna su Meta dimostra chiaramente che il deepfake si sta diffondendo anche su applicazioni di consumo alla mercè di tutti – e pubblicizzate liberamente sulle piattaforme social.

Tra domenica e lunedì, infatti, l’app per l’editing di video DeepFake FaceSwap ha pubblicato oltre 230 annunci pubblicitari sui servizi di Meta, inclusi Facebook, Instagram e Messenger. Buona parte di questi contenuti mostravano lo stesso inizio di un video porno, accompagnato dalla traccia audio di Pornhub. E poi, dopo qualche secondo, ecco comparire il volto di attrici famose al posto di quello delle protagoniste del video. Tra queste, oltre alla già citata Emma Watson, c’era anche Scarlett Johansson. “Sostituisci la faccia con chiunque”, si legge negli annunci che promuovono l’app, lasciando intendere che questa permette davvero di “rimpiazzare” un volto con un qualunque altro, anche celebre. Una manipolazione del tutto illegale, tanto da aver convinto Meta a rimuovere tutti gli annunci nella giornata di ieri. 

Sebbene nei video non siano stati mostrati atti sessuali, questi dimostrano chiaramente come l’applicazione possa essere utilizzata per generare contenuti sessuali falsi. Come anticipato, DeepFake FaceSwap consente agli utenti di caricare video da manipolare o di scegliere tra modelli già preimpostati, in cui è possibile sostituire il volto dei protagonisti con quelli di chiunque altro. La categoria più ricca di modelli è (chiaramente) la “Hot”, in cui sono raccolti video di uomini e donne nudi che ballano e posano di fronte alla telecamera. Eppure i termini di servizio dell’app, che costa 8 dollari a settimana, dicono che questa non consente agli utenti di impersonare altri tramite i loro servizi o caricare contenuti sessualmente espliciti. Premesse alquanto strane per un’applicazione che si è promossa attraverso una campagna di annunci deepfake



[Fonte Wired.it]