Deepfake su Sora: gli utenti trovano il modo di aggirare le protezioni
Nonostante i limiti introdotti da OpenAI, gli utenti di Sora riescono ancora a generare clip video contenenti personaggi famosi, anche deceduti, creando i cosiddetti deepfake. Un’indagine del sito di esperti 404 Media mostra infatti che negli Stati Uniti e in Canada, gli unici due paesi dove è presente il social Sora per la produzione e visualizzazione di clip generate dall’IA, le persone possano aggirare le protezioni di OpenAI per pubblicare clip con Tupac, Kobe Bryant, JuiceWrld e il rapper Dmx.
Secondo 404 Media, “servirebbe riaddestrare il modello senza i contenuti protetti dal diritto d’autore, un’operazione costosa e complessa”. I test condotti dal sito hanno rivelato che è possibile superare le limitazioni utilizzando una tattica nota nell’ambito dell’IA generativa: modificare leggermente le istruzioni per aggirare le parole chiave vietate.
Ad esempio, inserendo una richiesta vaga o errata, come il nome sbagliato di un videogame, si riesce a generare una riproduzione fedele del gioco. Questo stesso espediente avrebbe permesso di ottenere contenuti che imitano lo stile di attori e personaggi popolari, senza utilizzare un testo diretto, che altrimenti verrebbe bloccato.
“Esistono diversi modi per moderare gli strumenti di intelligenza artificiale generativa” scrive 404 Media, “il più semplice ed economico è impedire di generare contenuti che includano determinate parole chiave”. Tuttavia, questo metodo è soggetto a fallimento perché gli utenti trovano prima o poi istruzioni che alludono all’immagine o al video che desiderano generare, senza utilizzare nessuna delle parole vietate.
Riproduzione riservata © Copyright
