Deepfake: Allerta su App che Sexploitano Immagini di Persone Reali

Negli ultimi anni, l’avanzamento dell’intelligenza artificiale ha portato alla creazione di strumenti estremamente potenti e, altrettanto preoccupanti. Recentemente, un rapporto del Tech Transparency Project ha messo in evidenza la proliferazione di applicazioni nei principali store digitali, come quelli di Apple e Google, che permettono agli utenti di “spogliare” le foto di persone reali. Queste applicazioni, definibili come “nudify”, non solo sollevano questioni etiche, ma pongono anche un serio problema di sicurezza, in particolare per i minori.

Un’Arma a Doppio Taglio: La Proliferazione delle App di Nudificazione

Il rapporto del Tech Transparency Project ha rivelato la presenza di 18 app di nudificazione sull’App Store di Apple e 20 sul Google Play Store. Questi strumenti, che utilizzano la potenza dell’AI, consentono di rimuovere virtualmente gli indumenti dalle immagini, ma il loro utilizzo va ben oltre: alcune di queste app permettono infatti di inserire volti in video pornografici, contribuendo a un fenomeno del deepfake che pone interrogativi inquietanti sulla privacy e sul consenso. Con un totale di circa 483 milioni di download e oltre 122 milioni di dollari di incassi, è evidente che queste applicazioni hanno trovato un mercato fervente, ma a quale costo?

Un Problema di Classificazione e Sicurezza

Un aspetto molto preoccupante emerso dal rapporto è la scarsa attenzione delle piattaforme nel gestire le classificazioni di sicurezza. Molte di queste app sono contrassegnate con il rating “E” (Everybody), rendendole di fatto accessibili anche ai più giovani. Katie Paul, direttrice del Tech Transparency Project, ha sottolineato come le aziende non stiano effettuando controlli adeguati su queste applicazioni, permettendo così una potenziale esposizione di contenuti inappropriati a un pubblico vulnerabile. Questo è un problema che non riguarda solo gli Stati Uniti, ma ha ripercussioni anche in Europa e in Italia, dove il tema della sicurezza online dei minori è sempre più attuale.

La Reazione delle Grandi Aziende Tecnologiche

In seguito alla pubblicazione di questo allarmante rapporto, Apple e Google hanno confermato di aver rimosso la maggior parte delle app incriminate dai loro store. Questa risposta tempestiva è un passo positivo, ma solleva interrogativi su come possano essere evitate situazioni simili in futuro. È necessario che le piattaforme adottino politiche più rigorose per monitorare e approvare le app, tutelando così gli utenti da contenuti potenzialmente dannosi.

Conclusione Pratica

Il crescente uso delle tecnologie di deepfake e delle app di nudificazione richiede un’attenzione immediata da parte delle aziende tecnologiche, dei legislatori e della società in generale. È fondamentale educare gli utenti, specialmente i più giovani, sui rischi legati a queste applicazioni e sull’importanza di un uso responsabile della tecnologia. Occorre un impegno collettivo per garantire un ambiente digitale più sicuro e rispettoso, in cui il consenso e la privacy siano sempre prioritari. La responsabilità non è solo di chi sviluppa questa tecnologia, ma di tutti noi, per far sì che l’innovazione possa convivere con il rispetto delle persone e dei loro diritti.