Lintelligenza artificiale generativa ha rivoluzionato velocemente molti aspetti delle nostre vite. E adesso sta preponetemene entrando anche nel mondo della cybersicurezza: un nuovo rapporto della societ di sicurezza informatica SlashNext, infatti, afferma che le e-mail di phishing sono aumentate del 1.265% dal momento in cui ChatGPT stato introdotto sul mercato.

Oltre allo sviluppo di strumenti IA che generano malware come WormGPT, Dark Bart e FraudGPT, che si stanno diffondendo nel darkweb, i criminali informatici stanno anche trovando nuovi modi per effettuare il jailbreak del chatbot AI di punta di OpenAI per costruire delle vere e proprie campagne di phishing.

Immagine creata con Bing Image Creator

Un attacco di phishing una forma di truffa informatica in cui un individuo o un gruppo di individui cerca di ingannare con contenuti che sembrano veritieri e sembrano provenire da fonti legittime, come banche, aziende o servizi online popolari, al fine di convincere le persone a condividere informazioni personali, fare clic su link malevoli o scaricare allegati dannosi. Il termine “phishing” deriva dalla parola inglese “fishing” (pesca) ed un gioco di parole che riflette l’idea di pescare informazioni personali dalle vittime.

Secondo il rapporto di SlashNext, nellultimo trimestre del 2022 sono stati inviati quotidianamente 31 mila attacchi di phishing, che rappresentano di per s un aumento del 967% del phishing di credenziali. Il 68% di tutti gli attacchi di phishing, ha affermato SlashNext, viene realizzato tramite e-mail che sembrano di origine aziendale, mentre il 39% degli attacchi tramite dispositivi mobili avviene via SMS (“smishing”).

La ricerca di SlashNext conclude che gli autori delle minacce stanno sfruttando strumenti come ChatGPT per ottenere messaggi di posta elettronica aziendale sofisticati e mirati. ChatGPT integra dei meccanismi di difesa per evitare che messaggi del genere vengano prodotti, ma questi sono aggirabili tramite jailbreak, ovvero stringhe di testo studiate in modo tale da aggirare le difese dello strumento.

Gli attacchi realizzati tramite intelligenza artificiale rischiano di diventare talmente sofisticati da poter essere fronteggiati solo tramite altre tecniche di intelligenza artificiale. Molte aziende, di fatto, stanno gi incorporando lintelligenza artificiale direttamente nei loro programmi di sicurezza in modo che l’IA esplori costantemente i canali di messaggistica per rimuovere le minacce. Da questo punto di vista, infatti, l’intelligenza artificiale si rivela essere molto pi sicura della stessa sorveglianza umana.

L’intelligenza artificiale generativa viene usata nei set di strumenti non solo per rilevare e bloccare le minacce, ma anche per prevedere cosa potrebbe accadere. Al punto che alcuni pensano che si stia per entrare in una nuova era della cybersicurezza dove la lotta diventer di tipo “IA contro IA”.

I sistemi di intelligenza artificiale generativa hanno un “difetto”: vengono spesso addestrati su dati liberamente disponibili in rete, come articoli di giornale, post sui blog, interventi su Reddit o sui social network e via dicendo. Questo ha inevitabilmente sollevato più di un dubbio sugli aspetti relativi al copyright, tanto che le varie piattaforme hanno velocemente introdotto dei sistemi di opt-out che consentono alle aziende di evitare lo scraping dei propri dati, evitando così che vengano utilizzati per il training dei modelli di IA. Molte grandi testate, fra cui il New York Times, hanno deciso di non volere che i propri articoli vengano utilizzati da OpenAI o altre realtà. 

Non è solo OpenAI che ha introdotto delle opzioni per l’opt out: anche altre imprese hanno seguito questo esempio, fra cui Meta: compilando il modulo presente a questo indirizzo, si potrà evitare di addestrare il LLM dell’azienda con le proprie informazioni. C’è però un problema: sembra che non funzioni. 

Meta e privacy: un problema senza fine

Come riporta Wired, numerosi sviluppatori stanno lamentando seri problemi con lo strumento offerto da Meta per evitare di addestrare l’IA tramite i propri contenuti. Il motivo è che chi ha fatto la richiesta si è visto rispondere con una mail che indica l’impossibilità di procedere: per poter eseguire l’operazione richiesta, infatti, è necessario fornire prove del fatto che le informazioni personali appaiano in una risposta dell’IA generativa di Meta. 

In pratica, al contrario di altri sistemi di IA che automaticamente eliminano dal proprio modello le informazioni personali degli utenti che ne fanno richiesta, Meta pretende una prova che queste informazioni siano realmente state utilizzate. La prova, in questo caso, è portare all’attenzione dell’azienda guidata da Zuckerberg un prompt che dia come output le informazioni personali che si vogliono eliminare, siano esse immagini o contenuti testuali. Solo in questo caso procederà con la rimozione. 

La testata americana riporta il commento di Bethany Berg, artista del Colorado: “Ho cominciato a sentire che fosse solo una finta operazione di pubbliche relazioni [PR stunt, nell’originale] per far sembrare che stessero effettivamente cercando di fare qualcosa“, spiega Berg. Che non è l’unica persona a sentirsi presa in giro.

La risposta ufficiale di Meta è che c’è stato un fraintendimento: il form presente sul sito di Meta non è da considerarsi come un modulo di opt out. “Penso che ci sia un po’ di confusione su cosa sia quel modulo e sui controlli che offriamo,” scrive Thomas Richards, portavoce di Meta, in una email inviata a Wired. “Attualmente non offriamo una funzione che permetta alle persone di scegliere di non consentire che le loro informazioni dai nostri prodotti e servizi vengano utilizzate per addestrare i nostri modelli di intelligenza artificiale. Per fornire un po’ più di contesto riguardo al modulo di richiesta, a seconda di dove vivono le persone, potrebbero essere in grado di esercitare i loro diritti di soggetto dei dati e opporsi all’uso di alcune informazioni di terze parti per addestrare i nostri modelli di intelligenza artificiale, afferma Richards. “La presentazione di una richiesta non significa che le informazioni di terze parti saranno automaticamente rimosse dai nostri modelli di addestramento dell’IA. Stiamo esaminando le richieste in conformità con le leggi locali, poiché diverse giurisdizioni hanno requisiti diversi. Non ho ulteriori dettagli sul processo“.

In pratica, lo strumento di Meta serve solamente per segnalare eventuali violazioni di norme come, per esempio, il GDPR. Ma anche in questo caso, non sembra banale riuscire a dimostrare la cosa e far rimuovere le informazioni dal sistema. Al momento sembra quindi non esserci uno strumento per impedire a Meta di addestrare l’IA sui propri contenuti. Un approccio che ci lascia più di una perplessità, anche sotto il profilo della legalità.