Un tema di ricercatori nel campo dell’intelligenza artificiale aiuterà Menlo Park a creare video falsi per dare vita a un database col quale allenare in futuro algoritmi e sistemi di identificazione di deepfake
Tra i tanti problemi che Facebook deve affrontare, ce n’è anche uno che riguarda più il futuro (prossimo) che il presente: si tratta dei deepfake. I video che mostrano persone vere nell’atto di fare – o dire – cose inventate con un’accuratezza che non permette di carpire la falsificazione non sono ancora molto diffusi ma, con buona probabilità, lo diventeranno presto. L’unico modo per scongiurare un nuovo enorme strumento di disinformazione, quindi, è correre ai ripari.
Facebook ha in mente una soluzione imprevista: consiste nel generare quanti più deepfake possibili così da poter avere, un domani, un database col quale allenare algoritmi e strumenti per identificarli.
Parola chiave: prevenzione
Mit Technology Review scrive che Facebook ha chiesto ad alcuni team di esperti che si occupano di fare ricerca sull’intelligenza artificiale di programmare una serie di deepfake molto realistici in cui le persone fanno e dicono cose comuni. Il risultato di questo lavoro verrà svelato nel corso di un’importante congresso sull’Ai a fine anno.
Non è la prima volta che si dà il via a un esperimento simile, dato che l’università di Washington e l’istituto Allen hanno creato di recente un sistema di intelligenza artificiale che scrive fake news, proprio con lo stesso identico obiettivo.
Il Cto di Facebook Mike Schroepfer non si illude di eradicare il problema. Secondo Schroepfer, i deepfake in circolazione aumenteranno sempre di più, perché gli strumenti per crearli stanno diventando più accessibili e questo alimenta il rischio che gli utenti ne facciano un utilizzo improprio. Col tempo, poi, potrebbe diventare sempre più difficile distinguere un deepfake da un video originale. “Noi riusciremo a scovare solo quelli più ovvi”, dice. Al tempo stesso, pensa sia importante giocare d’anticipo e fare tutto il possibile per evitare di trovarsi in situazioni spiacevoli.
A questo proposito, Facebook ha anche deciso di lanciare – in collaborazione con alcuni enti, come Microsoft, l’università di Oxford e quella di Berkley – la Deepfake Detection Challenge. Chi elaborerà o sottoporrà il sistema che meglio riesce a scovare i deepfake, vincerà un premio in denaro.
Sul mercato ci sono già alcuni esempi di queste tecnologie: la maggior parte di esse si basa sull’analisi dei movimenti del viso, in particolare quelli degli occhi e della bocca. Sono però generalmente poco efficaci, perché non permettono di arrivare a una risposta in tempi rapidi.
La lotta ai deepfake
Facebook non è l’unico che ha dichiarato guerra ai deepfake. Il primo scorso i legislatori della Virginia, negli Stati Uniti, hanno approvato un emendamento alla legge sul revenge porn che punisce chi diffonde “immagini video o contenuti creati in modo falso” che hanno un contenuto sessuale esplicito con una multa fino a 2500 euro di multa e la detenzione fino a un anno.
Potrebbe interessarti anche