Nei giorni scorsi, X, il social network di Elon Musk, ha introdotto nuove restrizioni che impediscono agli utenti di modificare e generare immagini di persone reali in bikini o seminude. Il cambiamento di rotta avvenuto mercoledรฌ sera fa seguito all’indignazione globale per le migliaia di foto non consensuali e sessualizzate di donne, anche minorenni, realizzate dall’intelligenza artificiale di X e circolate sulla piattaforma.
Nonostante la tardiva introduzione di alcune misure di sicurezza che limitano il fenomeno su X, l’app e il sito web di Grok sembrano essere ancora in grado di generare immagini di donne “svestite” e contenuti pornografici, come emerge da test effettuati da ricercatori, da Wired e da altri giornalisti (anche se diversi utenti affermano invece di non essere piรน in grado di creare immagini e video come in passato).
I test indipendenti
“Siamo ancora in grado di generare immagini di nudo fotorealistico su Grok.com“, afferma Paul Bouchaud, ricercatore capo dell’organizzazione no-profit parigina AI Forensics, che ha monitorato l’uso di Grok per creare immagini sessualizzate e ha eseguito diversi test su X e al di fuori del social.
“Posso caricare un’immagine su Grok Imagine e chiedere di mettere una persona in bikini, e funziona“, dice il ricercatore che ha testato il sistema su un’immagine femminile. Nei test condotti da Wired utilizzando gli account Grok gratuiti, sia nel Regno Unito che negli Stati Uniti, รจ stato possibile rimuovere i vestiti da due immagini di uomini, senza alcuna restrizione apparente. Nel Regno Unito, quando le รจ stato chiesto di spogliare un uomo, l’applicazione ci ha chiesto solo di inserire l’anno di nascita dell’utente prima di procedere.
Nel frattempo, anche altri giornalisti di The Verge e dell’agenzia investigativa Bellingcat hanno scoperto che era ancora possibile creare immagini sessuali nel Regno Unito, paese che sta indagando su Grok e ha condannato duramente la piattaforma per aver permesso agli utenti di far dilagare immagini inappropriate.
L’intervento di X
Dall’inizio dell’anno, alcune aziende di Musk โ tra cui xAI, X e Grok โ sono finite nel mirino di diversi paesi per la creazione di immagini intime non consensuali, video sessuali espliciti e immagini sessualizzate di minori. Autoritร di Stati Uniti, Australia, Brasile, Canada, Commissione europea, Francia, India, Indonesia, Irlanda, Malesia e Regno Unito hanno condannato o avviato indagini.
Mercoledรฌ, X ha pubblicato un aggiornamento sulle condizioni d’uso di Grok: โAbbiamo implementato misure tecnologiche per impedire che l’account @Grok consenta la modifica di immagini di persone reali in abiti succinti come il bikiniโ. L’azienda ha aggiunto che le regole si applicano a tutti gli utenti di X, compresi gli abbonati a pagamento.
โOra blocchiamo la possibilitร per tutti gli utenti di generare immagini di persone reali in bikini, biancheria intima e abbigliamento simile tramite l’account Grok e in Grok in X nelle giurisdizioni in cui รจ illegaleโ, scrive l’account di X in una sezione intitolata โAggiornamento del geoblockโ. La societร ha anche aggiunto che sta lavorando per aggiungere ulteriori salvaguardie e che continua a “rimuovere i contenuti ad alta prioritร , tra cui quelli legati a pedopornografia e nuditร non consensuale“.
