Da Wired.it :
A una settimana dalla prima seduta di voto sull’Ai Act, il regolamento europeo sull’intelligenza artificiale che si occupa anche di riconoscimento facciale, tre organizzazioni italiane attive nell’ambito dei diritti digitali lanciano una campagna ambiziosa, che punta a far riflettere i votanti sull’utilizzo dei dati ottenuti tramite queste tecnologie. Sviluppata dalle organizzazioni per la tutela dei diritti digitali Hermes Center, The Good Lobby e info.nodes, dontspyonus.eu è una piattaforma sulla quale è possibile analizzare i volti degli europarlamentari attraverso un algoritmo di riconoscimento facciale (sezione Open Data Face del sito), generare deepfake (sezione fake face) e partecipare a contest di “metadata enrichment“, con tanto di premi in denaro. L’obiettivo della campagna è dimostrare come, attraverso l’impiego di una delle tante tecnologie disponibili sul mercato (il sito ricorre a Face-api), istituzioni pubbliche e società private possano accedere a una serie di informazioni sensibili sul cittadino (età, genere e perfino “stato emotivo”) e usufruirne a proprio piacimento.
Dall’invasione della privacy personale alla profilazione discriminatoria, secondo Don’t Spy Eu i potenziali risvolti antidemocratici sarebbero molteplici. Si tratta comunque di uno scenario ancora ipotetico, per quanto realistico: in Europa, l’ultima bozza dell’Ai Act (27 aprile) prevede il blocco totale dei sistemi di riconoscimento biometrico negli spazi pubblici, mentre in Italia l’installazione di telecamere biometriche da parte di privati è vietata ai privati ed è condizionata dal parere del Garante della privacy.
“Il funzionamento del nostro sito è semplice – spiega a Wired Claudio Agosti, vicepresidente di Hermes Center -. Abbiamo raccolto dal sito del Parlamento europeo le fotografie di tutti i membri, suddividendole poi per paese di appartenenza. L’utente può selezionare gli europarlamentari ai quali è interessato e vedere i risultati dell’analisi condotta dall’algoritmo di Face-api… che rimane, tuttavia, una tecnologia approssimativa”. Sono proprio gli errori (frequenti) di questo tipo di programmi a generare perplessità. Per esempio, la percentuale che indica il genere del soggetto analizzato raramente arriva al 100% per le donne. Tra le europarlamentari spagnole, qualcuna viene identificata come “al 75% maschio“. Lo stesso discorso vale per lo stato emotivo del soggetto (“happy”, “angry”, “neutral” o perfino “disgusted”), che non è detto corrisponda sempre alla realtà.
Oltre al rischio di discriminazioni, c’è anche quello di alimentare la diffusione di deepfake – immagini iperrealistiche generate da Ai. “Sul sito simuliamo uno scenario nel quale il riconoscimento biometrico (facciale, nello specifico) venga legalizzato. In quel caso i sistemi di riconoscimento, essendo imprecisi nella loro valutazione, non arriverebbero a distinguere le fotografie reali da quelle Ai – generated. Diventerebbe quindi molto facile ingannarli”, ricorda Agosti. Don’t Spy Eu invita l’utente a generare deepfake raffiguranti gli europarlamentari in contesti completamente inventati, e pubblicarli su Twitter con l’hashtag della campagna #DontSpyEu e taggando @HermesCenter. I premi per i primi due deepfake più originali sono rispettivamente di 200 e 100 euro.
L’iter legislativo
Il dibattito europeo sull’utilizzo delle tecnologie di riconoscimento biometrico è in corso almeno da un paio d’anni, quando a Bruxelles è stata redatta la prima bozza dell’Ai Act. Secondo numerosi attivisti e decine di associazioni di settore, però, il testo iniziale presentava diverse lacune normative, a partire dal lungo elenco di casistiche “d’eccezione” che si sarebbero sottratte ai divieti proposti. Nei mesi e negli anni successivi, grazie anche a un’intensa attività di lobbying nei confronti delle istituzioni europee, il testo è stato modificato a più riprese, fino ad ottenere una versione che sembrerebbe rispettare i canoni richiesti di varie associazioni.