Secondo una recente indagine condotta dall’organizzazione di difesa diritti Tech Transparency Project (TTP) è emerso come le app per denudare tramite AI siano presenti in un numero ancora piuttosto significativo sugli store più noti. Questi software utilizzano l’intelligenza artificiale per rimuovere virtualmente i vestiti da normali foto come per esempio ritratti o immagini di celebrità e spesso possono anche creare deepfake animati con video pronti da condividere online. Oltre alla tanto controversa app Grok di xAi, sono diverse decine le app su Play Store per dispositivi Android e su App Store per iPhone e iPad che risultano online e al momento sembra che i sistemi di moderazione automatici non siano troppo efficaci.
55 app al centro della polemica
Risulta quindi ancora molto semplice installare app per denudare persone che, evidentemente, non hanno mai espresso il proprio consenso per tale attività. Questi software riescono a bypassare le sicure sicurezze automatiche dimostrando di essere una delle componenti più pericolose del lato scuro delle AI, che può trovare terreno fertile utilizzando canali ufficiali senza troppi escamotage. TTP racconta come siano state rilevate 55 applicazioni per denudare per Android (Play Store) e 47 per iPhone (App Store) inclusa ovviamente anche Grok, che è ospitata su ambo gli store più popolari. “Apple e Google dovrebbero esaminare attentamente le app nei loro store. Ma ne hanno offerte decine che possono essere utilizzate per mostrare persone con abiti minimi o addirittura inesistenti, rendendole vulnerabili agli abusi“, ha affermato Michelle Kuppersmith, direttrice esecutiva dell’organizzazione no-profit che gestisce TTP.
Ricavi per 177 milioni di dollari
Vale la pena sottolineare anche un’altra cifra piuttosto significativa come quella dei 700 milioni di download totali per questo cospicuo gruppo di app, ma soprattutto il ricavo complessivo in termini di costi in-app richiesti agli utenti – per esempio per i crediti per le generazioni AI – che si arrampicano a fino 117 milioni di dollari. E naturalmente le piattaforme che ospitano le app hanno guadagnato da queste microtransazioni con la loro commissione. Tra i dettagli più inquietanti emersi c’è la scoperta di come alcune di queste applicazioni fossero state approvate addirittura per l’uso per bambini con classificazione più bassa di tipo 4+. Dopo la pubblicazione dello studio, Apple ha già rimosso circa la metà dei software, 23 su 47, secondo quanto riportato da Cnbc.
