Apple in Francia è indagata per la registrazione delle interazioni con Siri

A distanza di 8 mesi dalla denuncia presentata dall’associazione Ligue des droits de l’Homme, la procura di Parigi ha deciso di avviare un’indagine penale nei confronti di Apple. Nel mirino c’è l’attività di analisi delle conversazioni vocali tra gli utenti iPhone e l’assistente vocale Siri.

I giudici dovranno decidere se la funzione “migliora Siri e dettatura” integrata nei sistemi Apple abbia esposto gli utilizzatori a una violazione della loro privacy come denunciato dal whistleblower Thomas Le Bonniec.

Come funziona il sistema di analisi

La funzionalità usata da Apple per rendere più efficiente Siri è piuttosto semplice: analizzare la registrazione delle interazioni tra gli utenti e l’assistente vocale per verificarne la qualità a livello di riconoscimento vocale. Se, a primo acchito, può sembrare un processo piuttosto “vintage”, è bene ricordare che l’intera vicenda risale al 2014, quando i sistemi di intelligenza artificiale e gli Llm (Large Language Model) erano ancora in una fase “sperimentale”.

È in quel periodo, infatti, che Le Bonniec si è trovato a lavorare per un’azienda collegata ad Apple, che aveva come obiettivo quello di valutare l’efficienza del sistema di riconoscimento vocale sviluppato da Cupertino e implementato in tutti i suoi prodotti.

La procedura prevedeva, in pratica, la registrazione di alcune delle richieste effettuate a Siri, che venivano ascoltate da un operatore in carne e ossa per verificare se l’assistente le avesse interpretate correttamente. In quel periodo Le Bonniec ha spiegato di aver ascoltato più di 1300 conversazioni al giorno, utilizzando un software dedicato per segnalare eventuali errori.

Registrazioni all’insaputa degli interessati

In una prima fase, la funzionalità era attiva per tutti gli utenti Apple. In seguito alla segnalazione di Le Bonniec al garante per la privacy irlandese, l’azienda è stata obbligata a introdurre una policy di pot-in, cioè l’applicazione solo a chi avesse aderito esplicitamente al programma di miglioramento di Siri. La modifica, però, non ha risolto alcuni dei problemi legati alla privacy. Come ha spiegato lo stesso Thomas Le Bonniec nell’intervista a Wired Italia dello scorso febbraio: “Spesso gli utenti vengono registrati senza che se ne rendano conto. Secondo le mie stime, il 20-30% delle registrazioni che mi trovavo ad analizzare erano state avviate per errore”.