Da Wired.it :
Clonare la voce per ingannare amici e parenti. Anche i cybercriminali stanno godendo delle ultime innovazioni in termini di AI, di intelligenza artificiale, come nel caso piuttosto eclatante delle sempre più numerose segnalazioni di truffe telefoniche che utilizzano voci clonate per chiedere considerevoli somme di denaro a ignari utenti, soprattutto di una certa età. Questa nuova frontiera dello scam sta registrando un’impennata oltreoceano e sfrutta servizi online a costo contenuto e campioni sonori facilmente recuperabili per esempio sui social.
La strategia è molto semplice: si salva l’audio di una determinata persona mentre parla, anche per pochi secondi, in un video diffuso su un qualsiasi social network (da Facebook a Instagram, ma anche TikTok), si utilizza uno dei vari software basati su AI che ricostruiscono un modello clone, si prepara una frase d’effetto, magari ben condita da una situazione di pericolo e di paura e si veicola come telefonata verso un contatto diretto della vittima, come per esempio genitori o nonni. È successo proprio così a due coniugi canadesi che avevano ricevuto la telefonata dal nipote, ritrovatosi improvvisamente in un brutto guaio e in carcere, con la necessità di pagare la cauzione. Lo racconta il Washington Post citando altri casi simili, tutti accomunati dallo stesso metodo.
Per realizzare il modello vocale, gli scammer utilizzano servizi come Vall-E di Microsoft oppure soprattutto Prime Voice AI di ElevenLabs richiedono appena pochi secondi per poi ricreare un pattern estremamente realistico della voce, dato che i database di voci permettono di confezionare una replica trovando similitudini e prevedendo con molta precisione toni, accenti e inflessioni. Oltre che per far recitare testi controversi ad attori famosi, queste AI possono dunque essere sfruttate per le truffe, agendo su tasti delicati come una persona cara in situazioni di pericolo imminente. Il raggiro si completa con la consegna dell’eventuale denaro di persona in situazioni studiate ad hoc oppure si passa tutto online con metodi difficilmente rintracciabili.