L’ondata di fake news AI su X
La diffusione di strumenti sempre più accessibili per la generazione di immagini e video con l’AI ha portato alla proliferazione di contenuti falsi sempre più sofisticati. Il 2 marzo, per esempio, funzionari e media statali dell’Iran hanno condiviso video generati con l’AI che mostravano un grattacielo in Bahrain in fiamme, abbastanza realistici da sembrare credibili per molti utenti; un’immagine che mostrava un bombardiere statunitense B-2 abbattuto dall’Iran, con soldati americani catturati, ha superato il milione di visualizzazioni prima di essere eliminata; ma ci sono anche “foto” che immortalano la cattura (mai avvenuta) di membri della Delta force americana da parte delle autorità iraniane, che hanno accumulato più di 5 milioni di visualizzazioni prima di essere cancellate.
Va detto che non tutti i contenuti di questo tipo sono altrettanto credibili. È il caso per esempio di un video che mostra forze iraniane intente ad assemblare missili all’interno di una grotta, che ha comunque superato il milione di visualizzazioni ed è stato condiviso da diversi account.
Il governo iraniano ricorre all’intelligenza artificiale anche per diffondere contenuti apertamente antisemiti. Secondo i ricercatori dell’Institute for strategic dialogue (Isd), che ha condiviso un’analisi con Wired, alcuni profili legati a una rete di propaganda filogovernativa hanno pubblicato su X contenuti generati con l’AI in cui si vedono ebrei ortodossi che guidano soldati statunitensi in guerra o celebrano la morte di militari americani.
Diversi account appartenenti allo stesso network hanno anche diffuso un video falso che raffigura una fila di giovani ragazze sfilare davanti al presidente Donald Trump in biancheria intima. Il post è stato rimosso dopo aver raccolto quasi 7 milioni di visualizzazioni, riferisce l’Isd, ma continua a circolare su X attraverso altri account.
“Un aspetto distintivo di questa guerra è il forte aumento dei contenuti generati con l’AI che mi trovo a dover smentire”, ha dichiarato Hagin a Wired. “Questo probabilmente dipende dal fatto che l’AI è ormai abbastanza avanzata da ingannare anche i giornalisti e dalla facilità con cui gli utenti possono creare questi contenuti senza alcuna conseguenza. Più a lungo resteremo senza regole sugli abusi dell’AI, maggiori saranno i danni. La diffusione di fake news basate sull’intelligenza artificiale rischia di spingerci oltre un mondo basato sui fatti, se non interveniamo subito”.
Quando questa ondata di disinformazione AI ha iniziato a invadere X la scorsa settimana, la piattaforma ha annunciato che avrebbe temporaneamente demonetizzato gli account dotati di spunta blu che pubblicano video di conflitti armati generati con l’AI senza indicarlo chiaramente. L’azienda non ha risposto a una richiesta di commento di Wired, che ha chiesto quanti account siano effettivamente stati oggetto della misura. Fino a poco tempo fa, diversi leader iraniani sembravano iscritti al servizio in abbonamento di X, quello che assegna la spunta blu, aumenta la visibilità dei post e consente agli utenti di guadagnare con i propri contenuti.
