Grok Imagine, la funzionalità di intelligenza artificiale che genera immagini e video espliciti

Sono oltre 34 milioni le immagini già prodotte con Grok Imagine, una nuova funzionalità del chatbot di intelligenza artificiale Grok, sviluppato dall’azienda di Elon Musk, xAi. Al suo interno, fa discutere l’opzione “spicy”, con cui l’IA può generare foto e video di nudo e sessualmente espliciti, con il rischio di alimentare anche il revenge porn.

Ieri, su X, Musk ha scritto: “l’utilizzo di Grok Imagine sta crescendo a macchia d’olio. Prima sono state generate 14 milioni di immagini, oggi siamo a più di 20 milioni”. Ciò dimostra il successo della funzionalità, ma anche il potenziale rischio di abuso.

Come funziona Grok Imagine

Come funzionamento, Grok Imagine deve prima produrre un’immagine generata artificialmente, o riceverne una caricata dall’utente, e da questa partire per realizzare un video di pochi secondi. A quel punto, è possibile scegliere tra quattro opzioni: personalizzato (custom), normale (normal), divertente (fun) e piccante (spicy) appunto.

Questa funzionalità è al momento accessibile solo sulla versione del chatbot per iOs e agli abbonati SuperGrok e Premium Plus. Il sito The Verge ha provato a generare foto di nudo di Taylor Swift, ottenendo immagini e video non perfetti ma “sensuali” e “suggestive”.

Preoccupazioni sulla sicurezza e il rispetto della privacy

“La modalità sembra una causa legale in attesa di essere intentata”, scrive The Verge, “mentre altri generatori di video come Veo di Google e Sora di OpenAI dispongono di misure di sicurezza per impedire agli utenti di creare contenuti vietati e deepfake di celebrità, Grok Imagine è felice di fare entrambe le cose, contemporaneamente”.

Proprio Taylor Swift era stata inconsapevole vittima di centinaia di false foto di nudo diffuse sui social a gennaio del 2024, prodotte da vari software di intelligenza artificiale generativa. Ciò solleva preoccupazioni sulla sicurezza e il rispetto della privacy degli utenti.

FP