Nei giorni scorsi, X, il social network di Elon Musk, ha introdotto nuove restrizioni che impediscono agli utenti di modificare e generare immagini di persone reali in bikini o seminude. Il cambiamento di rotta avvenuto mercoledì sera fa seguito all’indignazione globale per le migliaia di foto non consensuali e sessualizzate di donne, anche minorenni, realizzate dall’intelligenza artificiale di X e circolate sulla piattaforma.

Nonostante la tardiva introduzione di alcune misure di sicurezza che limitano il fenomeno su X, l’app e il sito web di Grok sembrano essere ancora in grado di generare immagini di donne “svestite” e contenuti pornografici, come emerge da test effettuati da ricercatori, da Wired e da altri giornalisti (anche se diversi utenti affermano invece di non essere più in grado di creare immagini e video come in passato).

I test indipendenti

“Siamo ancora in grado di generare immagini di nudo fotorealistico su Grok.com“, afferma Paul Bouchaud, ricercatore capo dell’organizzazione no-profit parigina AI Forensics, che ha monitorato l’uso di Grok per creare immagini sessualizzate e ha eseguito diversi test su X e al di fuori del social.

“Posso caricare un’immagine su Grok Imagine e chiedere di mettere una persona in bikini, e funziona“, dice il ricercatore che ha testato il sistema su un’immagine femminile. Nei test condotti da Wired utilizzando gli account Grok gratuiti, sia nel Regno Unito che negli Stati Uniti, è stato possibile rimuovere i vestiti da due immagini di uomini, senza alcuna restrizione apparente. Nel Regno Unito, quando le è stato chiesto di spogliare un uomo, l’applicazione ci ha chiesto solo di inserire l’anno di nascita dell’utente prima di procedere.

Nel frattempo, anche altri giornalisti di The Verge e dell’agenzia investigativa Bellingcat hanno scoperto che era ancora possibile creare immagini sessuali nel Regno Unito, paese che sta indagando su Grok e ha condannato duramente la piattaforma per aver permesso agli utenti di far dilagare immagini inappropriate.

L’intervento di X

Dall’inizio dell’anno, alcune aziende di Musk – tra cui xAI, X e Grok – sono finite nel mirino di diversi paesi per la creazione di immagini intime non consensuali, video sessuali espliciti e immagini sessualizzate di minori. Autorità di Stati Uniti, Australia, Brasile, Canada, Commissione europea, Francia, India, Indonesia, Irlanda, Malesia e Regno Unito hanno condannato o avviato indagini.

Mercoledì, X ha pubblicato un aggiornamento sulle condizioni d’uso di Grok: “Abbiamo implementato misure tecnologiche per impedire che l’account @Grok consenta la modifica di immagini di persone reali in abiti succinti come il bikini”. L’azienda ha aggiunto che le regole si applicano a tutti gli utenti di X, compresi gli abbonati a pagamento.

“Ora blocchiamo la possibilità per tutti gli utenti di generare immagini di persone reali in bikini, biancheria intima e abbigliamento simile tramite l’account Grok e in Grok in X nelle giurisdizioni in cui è illegale”, scrive l’account di X in una sezione intitolata “Aggiornamento del geoblock”. La società ha anche aggiunto che sta lavorando per aggiungere ulteriori salvaguardie e che continua a “rimuovere i contenuti ad alta priorità, tra cui quelli legati a pedopornografia e nudità non consensuale“.

Fonte