da Hardware Upgrade :
Midjourney ha deciso di chiudere, almeno temporaneamente, l’uso
gratuito dell’omonimo generatore di immagini basato sull’Intelligenza
Artificiale. Una decisione resasi necessaria a causa dell’abuso da parte
degli utenti, che hanno utilizzato lo strumento per creare deepfake di
alto profilo come quelli recentemente circolati su Donald Trump e sul
Papa.
Il CEO David Holz ha comunicato tramite Discord che la societ ha
deciso per ora di porre fine alle prove gratuite a fronte di una
“domanda straordinaria” e dell'”abuso del periodo di prova”. Le misure
nuove di sicurezza recentemente introdotte non sono state sufficienti per
impedire l’abuso della tecnologia durante il periodo di prova. Per poter
utilizzare il generatore d’immagini Midjourney sar
ora necessario sottoscrivere un abbonamento a partire da 10 dollari
al mese.
I gi citati recenti casi dei deepfake relativi a Papa Francesco vestito
alla moda, e dell’arresto di Donald Trump, hanno richiamato l’attenzione
di media e pubblico sui rischi posti dai generatori di immagini basati
sull’intelligenza artificiale ed in particolare sulla loro efficacia come
strumenti di diffusione di disinformazione.
Making pictures of Trump getting arrested while
waiting for Trump’s arrest. pic.twitter.com/4D2QQfUpLZ
Eliot Higgins (@EliotHiggins) March
20, 2023
Holz ha comunque riconosciuto una certa difficolt nel riuscire a
definire adeguate politiche sulla creazione dei contenuti, proprio per via
dell’evoluzione delle capacit dell’Intelligenza Artificiale nel creare
immagini sempre pi realistiche. La societ sta lavorando per cercare di migliorare
le pratiche di moderazione con l’obiettivo di prevenire l’abuso della
tecnologia.
A tal proposito vale la pena osservare che in altri contesti si deciso
di applicare regole rigide proprio per prevenire casi come quelli citati
in precedenza. Gli sviluppatori di OpenAI, ad esempio, bloccano qualsiasi
immagine che riguardi eventi politici contemporanei o basate su teorie del
complotto, oltre all’ovvia esclusione di contenuti basati su odio,
violenza, sessualit e discriminazione.