A distanza di 8 mesi dalla denuncia presentata dallโassociazione Ligue des droits de l’Homme, la procura di Parigi ha deciso di avviare unโindagine penale nei confronti di Apple. Nel mirino cโรจ lโattivitร di analisi delle conversazioni vocali tra gli utenti iPhone e lโassistente vocale Siri.
I giudici dovranno decidere se la funzione โmigliora Siri e dettaturaโ integrata nei sistemi Apple abbia esposto gli utilizzatori a una violazione della loro privacy come denunciato dal whistleblower Thomas Le Bonniec.
Come funziona il sistema di analisi
La funzionalitร usata da Apple per rendere piรน efficiente Siri รจ piuttosto semplice: analizzare la registrazione delle interazioni tra gli utenti e lโassistente vocale per verificarne la qualitร a livello di riconoscimento vocale. Se, a primo acchito, puรฒ sembrare un processo piuttosto โvintageโ, รจ bene ricordare che lโintera vicenda risale al 2014, quando i sistemi di intelligenza artificiale e gli Llm (Large Language Model) erano ancora in una fase โsperimentaleโ.
ร in quel periodo, infatti, che Le Bonniec si รจ trovato a lavorare per unโazienda collegata ad Apple, che aveva come obiettivo quello di valutare lโefficienza del sistema di riconoscimento vocale sviluppato da Cupertino e implementato in tutti i suoi prodotti.
La procedura prevedeva, in pratica, la registrazione di alcune delle richieste effettuate a Siri, che venivano ascoltate da un operatore in carne e ossa per verificare se lโassistente le avesse interpretate correttamente. In quel periodo Le Bonniec ha spiegato di aver ascoltato piรน di 1300 conversazioni al giorno, utilizzando un software dedicato per segnalare eventuali errori.
Registrazioni allโinsaputa degli interessati
In una prima fase, la funzionalitร era attiva per tutti gli utenti Apple. In seguito alla segnalazione di Le Bonniec al garante per la privacy irlandese, lโazienda รจ stata obbligata a introdurre una policy di pot-in, cioรจ lโapplicazione solo a chi avesse aderito esplicitamente al programma di miglioramento di Siri. La modifica, perรฒ, non ha risolto alcuni dei problemi legati alla privacy. Come ha spiegato lo stesso Thomas Le Bonniec nellโintervista a Wired Italia dello scorso febbraio: โSpesso gli utenti vengono registrati senza che se ne rendano conto. Secondo le mie stime,ย il 20-30% delle registrazioni che mi trovavo ad analizzare erano state avviate per erroreโ.
