Dopo essere finito al centro di feroci polemiche, Grok, il chatbot di Elon Musk legato al social network X, ha disattivato la creazione di immagini per il profili non a pagamento. È la risposta al vespaio generato dalla circolazione e dal largo utilizzo di foto sintetiche che mostravano deepfake a sfondo sessuale, anche con minori, e propaganda nazista e terrorista. La situazione era precipitata al punto che il governo britannico aveva minacciato di bloccare la piattaforma X, che ospita appunto Grok, sul suo territorio, e considerato multe fino al 10% del fatturato globale.
La funzione immagini è tuttavia solo ristretta, ed ancora disponibile via app, quindi garantendo le stesse possibilità di prima, ma non la condivisione su X.
Le ricerche
Per capire come siamo arrivati qui, è necessario fare un passo indietro. Alla fine di dicembre, Grok aveva aggiornato il software di creazione di immagini con intelligenza artificiale
La settimana scorsa l’ong AI Forensics ha invece pubblicato un’analisi su un trend che pone questioni legali sull’utilizzo di Grok. Il chatbot veniva utilizzato su larga scala per “spogliare” e sessualizzare le donne, comprese le minorenni, su richiesta degli utenti di X. Non si trattava di prove aneddotiche, ma di un’analisi di un fenomeno di carattere sistemico.
Analizzando oltre 20mila immagini generate da Grok e 50.000 richieste effettuate dagli utenti, i ricercatori avevano scoperto che il 53% delle immagini generate conteneva individui con abiti succinti, di cui l’81% donne. Il 2% raffigurava persone che apparivano avere 18 anni o meno. Lo strumento era stato inoltre utilizzato per generare materiali di propaganda nazista e a favore dell’ISIS.
Pattern, non episodi
I risultati, raccolti nella settimana tra il 25 dicembre 2025 e il primo gennaio 2026, sono stati messi insieme senza usare filtri particolari, e delineano un pattern che offre una finestra sull’utilizzo del LLM su X. Nel 95,3% dei casi, il chatbot viene utilizzato per rispondere ai “tweet” di un altro utente, mettendo in luce anche altre tendenze del social network di Musk. Del totale, circa un quarto delle richieste erano prompt per la creazione di immagini. Questo rapporto arriva sulla scia delle indagini avviate da paesi come la Francia, a seguito delle denunce presentate dai deputati Éric Bothorel e Arthur Delaporte riguardo alla diffusione di deepfake generati da Grok sul social network dello stesso proprietario.
La generazione di contenuti legati al nazismo o all’Isis sollevava anche preoccupazioni legali, poiché la loro diffusione è rigidamente regolamentata in diverse giurisdizioni, tra cui Francia e Germania.
Come riportato da Bloomberg, lunedì è arrivata la replica del portavoce della Commissione europea Thomas Regnier: “Siamo consapevoli del fatto che X o Grok stiano ora offrendo uno Spicy Mode che mostra contenuti sessuali espliciti, con alcuni output che includono immagini dall’aspetto infantile”, ha dichiarato lunedì in conferenza stampa, riferendosi a un’impostazione introdotta da Grok lo scorso anno per generare materiale allusivo. “Questo non è spicy. È illegale”.
