La tecnologia alla base dei deepfake viene utilizzata per creare foto d’agenzia con attori inesistenti che celebrano la diversità, generando un nuovo (e florido) business. Ma quest’uso dell’intelligenza artificiale espone anche a tanti rischi
Vi ricordate i volti che non esistono, quelle immagini create da zero dall’intelligenza artificiale che per qualche tempo hanno imperversato sulla rete? Bene: hanno trovato lavoro. Un numero crescente di agenzie utilizza infatti questa tecnologia per fornire a chiunque ne abbia bisogno una quantità illimitata di fotografie di persone inesistenti, ma assolutamente verosimili.
Startup come l’argentina Icons8 o la statunitense Rosebud AI hanno per esempio tra i loro clienti università, applicazioni di dating e agenzie di risorse umane. Considerando gli usi impropri che si possono facilmente fare di queste immagini (per esempio, creare personalità online che nella realtà non esistono), la fondatrice di Rosebud AI ha spiegato al Washington Post come “valuti individualmente ogni possibile cliente”. Non un compito semplice, visto che la sua startup ha oltre duemila potenziali clienti in lista d’attesa.
Ma perché così tante aziende vogliono utilizzare immagini di persone inesistenti, create da un algoritmo, invece delle foto di persone reali? La ragione è prima di tutto economica: una volta terminato l’addestramento, svolto utilizzando database di fotografie reali, queste intelligenze artificiali sono in grado di sfornare quantità immense di immagini di persone in ogni possibile situazione e con espressioni di qualunque tipo, abbassando inevitabilmente i prezzi: “Icons8 afferma che i suoi volti possono essere molto utili a chi ha bisogno di incrementare rapidamente la quantità di materiale promozionale, preparare numerose bozze o illustrare concetti che potrebbero essere delicati per un modello umano”, si legge ancora sul Washington Post.
Per preparare queste immagini, Icons8 ha prima di tutto assunto 70 modelli, a cui sono state scattate migliaia di foto utilizzate per addestrare gli algoritmi. Terminata questa fase, i dipendenti della startup hanno trascorso alcuni mesi a preparare il loro archivio, selezionando le immagini meglio riuscite, correggendo quelle che avevano qualche difetto ed etichettandole sulla base delle loro caratteristiche. Vi serve una ragazzina imbronciata con i capelli biondi e gli occhi verdi? Tra le decine di migliaia di immagini – visualizzabili sul sito GeneratedPhotos – è probabile che ci sia quella che fa proprio al caso vostro.
Una seconda ragione che ha portato alla nascita di questi servizi è però molto meno intuitiva e ha tutto a che fare con la storica mancanza di diversità delle immagini pubblicitarie e simili, in cui la prevalenza di donne e uomini bianchi è schiacciante (un problema che è anche all’origine di alcune forme di pregiudizio algoritmico). In passato, per aggirare questo problema, alcune istituzioni e società sono ricorse a scorciatoie imbarazzanti. L’università del Wisconsin-Madison ha per esempio photoshoppato in tutta fretta un uomo nero in un’immagine promozionale non è appena si è accorta che comparivano solo persone bianche, ricavandone un’enorme figuraccia.
Più in generale, nei database delle agenzie fotografiche c’è una netta prevalenza di uomini bianchi, mentre le minoranze sono decisamente sottorappresentate. Anche chi cercasse immagini caratterizzate da una certa diversità, insomma, potrebbe avere qualche difficoltà a reperirle. Ed è qui che, ancora una volta, tornano utili i servizi offerti da startup come Rosebud AI e Icons8, che possono rapidamente produrre migliaia di finte fotografie con un’altissima percentuale di diversità; togliendo dall’imbarazzo chiunque si trovi alle prese con questo delicato problema. Ma proprio per la delicatezza della questione, viene da chiedersi se l’intelligenza artificiale sia lo strumento migliore per risolverla.
Il pericolo è di dare l’illusione della diversità, anche perché l’intelligenza artificiale è in grado di imitare solo ciò che le è stato mostrato durante l’addestramento. A lungo andare, queste persone inesistenti rischiano di essere sempre uguali una all’altra: “Nella pubblicità, vogliamo conquistare più diversità e mostrare volti unici. Questo invece è un sistema che tende a omogeneizzare tutto”, ha raccontato Valerie Emanuel, co-fondatrice di un’agenzia di modeling con sede a Los Angeles.
L’utilizzo di questa tecnologia solleva inoltre parecchi problemi etici: “Non fa altro che dimostrare quanto poco potere abbiano gli utenti in termini di veridicità di ciò che vedono online”, ha spiegato la docente di Intelligenza Artificiale Elana Zeide. “Non esiste una realtà obiettiva con cui confrontare queste foto. Siamo abituati al mondo mondo fisico e agli input sensoriali, ma in questo tipo di situazioni non abbiamo alcuna risposta istintiva che ci aiuti a capire cosa sia reale e cosa no. È estenuante”.
Se vi sembra di aver già sentito questo tipo di considerazioni è perché sono le stesse che vengono sempre fatte quando si parla dei deepfake. E non è un caso, il sistema alla base è infatti lo stesso: il GAN, generative adversarial network (utilizzato anche per produrre opere d’arte artificiali e altro ancora), che impiega due algoritmi in competizione tra loro – uno produce e l’altro valuta la qualità dell’output – per assicurarsi che i risultati ottenuti siano assolutamente verosimili.
In verità, in alcuni casi i risultati sono mostruosi (soprattutto quando, invece dei ritratti, si cerca di ricreare delle persone o degli animali in movimento). Ed è per questo che chi lavora con Icons8 o Rosebud AI trascorre molto tempo a selezionare le foto meglio riuscite. Ma questo è un ostacolo temporaneo, col passare degli anni produrre volti e situazioni inesistenti diventerà sempre più rapido, economico e di qualità elevata. A quel punto, oltre a trovarci in un mondo in cui distinguere la realtà dalla finzione diventa sempre più difficile, scopriremo che l’intelligenza artificiale è riuscita ad automatizzare anche un lavoro che sembrava al riparo da qualunque pericolo: il modello.
Potrebbe interessarti anche