Non si placa l’attenzione intorno alle immagini sessualmente esplicite generate da Grok, il chatbot di intelligenza artificiale sviluppato da x.AI, società di Elon Musk. Secondo un’analisi condotta dall’organizzazione britannica no-profit Center for Countering Digital Hate, dal 29 dicembre 2025 al 9 gennaio 2026 su Grok sono state prodotte o modificate 3 milioni di immagini sessualmente esplicite. Di queste, 23mila avevano come soggetto minori. Una stima più conservativa del New York Times parla invece di 1,8 milioni di post. L’uso di Grok per questo scopo – ricorda ancora il Centro – è aumentato a partire dal 29 dicembre, poco dopo che Elon Musk aveva annunciato una funzionalità che permetteva agli utenti di X di modificare le immagini postate sul social con un clic. Secondo il quotidiano newyorkese “questi risultati mostrano quanto rapidamente Grok diffonda immagini disturbanti, che in precedenza avevano spinto i governi di Gran Bretagna, India, Malesia e Stati Uniti ad avviare indagini per verificare se le immagini violassero le leggi locali”.
“Abuso su scala industriale”
Il New York Times, nel citare le due stime, indica come “secondo l’analisi del quotidiano e gli esperti di molestie online, in pochi giorni l’esplosione di immagini non consensuali ha superato le raccolte di deepfake sessualizzati, o immagini realistiche generate dall’intelligenza artificiale provenienti da altri siti web”. Secondo Imran Ahmed, a capo del Center for Countering Digital Hate, si tratta di “un abuso su scala industriale di donne e ragazze”. L’esperto ha sottolineato come “ci sono stati strumenti per spogliare le persone, ma non hanno mai avuto la distribuzione, la facilità d’uso o l’integrazione in una grande piattaforma”. Nelle scorse settimane, dopo l’esplosione del caso, xAI era intervenuta: il 9 gennaio aveva infatti ristretto la possibilità di ‘spogliare’ le persone nelle foto reali con Grok agli utenti di X con un piano in abbonamento. Cinque giorni dopo – a seguito delle continue proteste di governi, istituzioni e organizzazioni – il limite è stato esteso a tutti gli utenti.
La posizione della Commissione europea
Il caso è diventato centrale nel dibattito pubblico, e sul tema è intervenuta anche la Commissione europea. Bruxelles nei giorni scorsi ha infatti escluso per il momento il ricorso a misure provvisorie nei confronti di Grok. “Alcuni paesi terzi hanno vietato X, mentre altri hanno avviato indagini. Possiamo essere orgogliosi del fatto che abbiamo ricevuto degli impegni da parte di X. Li stiamo valutando. Una volta completata la nostra valutazione, decideremo i potenziali passi successivi”, ha spiegato il portavoce della Commissione europea Thomas Regnier. Pur ribadendo che si tratta di una “priorità assoluta per la Commissione”, Regnier ha detto che le misure provvisorie previste in questi casi dalla legge europea sui servizi digitali (Dsa) “potrebbero non essere lo strumento più appropriato in questo momento”. In caso di urgenza dovuta al rischio di danni gravi per gli utenti, la Commissione può, in linea con il Dsa, richiedere azioni immediate per far fronte a tali danni. Le misure adottate dovrebbero essere proporzionate e temporanee. Possibili misure provvisorie sono, ad esempio, modifiche dei sistemi di raccomandazione, un monitoraggio rafforzato di parole chiave o hashtag specifici o ordini per far cessare le presunte violazioni.
Leggi anche
Dopo Grok anche OpenAi, perché l’industria IA insegue la pornografia
L’appello di 54 europarlamentari
Pochi giorni prima della presa di posizione della Commissione, un gruppo di 54 europarlamentari di diversi schieramenti avevano scritto alla presidente Ursula von der Leyen per chiedere di “sostenere le alternative europee alle piattaforme di social media dominanti” dopo lo scandalo delle immagini sessualizzate create da Grok. In seguito ai cambiamenti dell’algoritmo apportati dopo l’acquisizione del social da parte di Musk, “X non è più uno strumento aperto ed equilibrato per la comunicazione politica o il giornalismo” ma “assomiglia a un sito web di pornografia deepfake e a un sistema di trasmissione unidirezionale per lo stesso Musk”, hanno scritto gli eurodeputati. Nella lettera si chiedeva poi di “garantire che gli europei godano di diritti di portabilità che non siano un peso per loro ma per i gatekeeper, in modo che possano trasferire facilmente i loro contenuti e dati su un’altra piattaforma e non siano mai più vincolati a una sola piattaforma e vulnerabili ai danni”. Infine “la Commissione europea e i paesi europei devono inoltre indagare e far rispettare con fermezza le nostre leggi, comprese le eventuali leggi penali violate. La creazione di immagini di abusi sui minori è un reato”.
Il progetto AI4TRUST
Riuscire a identificare i contenuti generati dall’intelligenza artificiale è – come parte degli sforzi per contrastare la disinformazione online – al centro di AI4TRUST, il progetto finanziato dal programma Horizon Europe dell’Unione Europea, di cui Sky TG24 è partner. AI4TRUST si propone di sviluppare una piattaforma contro la disinformazione che combini l’apporto dell’intelligenza artificiale con le verifiche di giornalisti e fact-checker.
Leggi anche
I chatbot faticano a riconoscere i video generati dall’IA: il report
