Il controverso chabot AI Replika è nuovamente al centro delle cronache italiane. Il Garante privacy ha infatti comunicato ufficialmente di aver sanzionato di 5 milioni di euro la società che gestisce lo strumento, la statunitense Luka Inc., come diretta conseguenza delle violazione contestate ormai oltre due anni fa, in merito al rispetto e alla tutela delle informazioni personali degli iscritti. Contestualmente, si apre anche una nuova indagine che cercherà di fare chiarezza sulle modalità di addestramento dell’intelligenza artificiale generativa che fa da fondamenta del servizio.
Che cos’è Replika
La storia di Replika inizia a novembre 2017, quando la società statunitense Luka Inc. lanciava un’app dedicata alle interazioni tra utenti in carne e ossa e chatbot basati su AI. Il servizio è multipiattaforma (Android e iPhone), propone un download gratuito, ma richiede la sottoscrizione di un abbonamento per sfruttare appieno le potenzialità e tutte le opzioni. Nei suoi 8 anni di vita, Replika ha vissuto una crescita esponenziale degli utenti (30 milioni secondo le ultime statistiche aggiornate a agosto 2024), grazie ai progressi profondi dei modelli di linguaggio che governano gli strumenti basati su AI generativa. Cosa fa Replika? Consente di generare una persona virtuale personalizzabile secondo le proprie preferenze per conversare in modo realistico su vari livelli dall’amicizia fino all’assistenza creativa o lavorativa sfociando nel romanticismo, anche molto spinto.
Le controversie su Replika
Nel gennaio 2023 si riportavano i primi casi di vere e proprie molestie sessuali da parte del chatbot AI a danno di utenti più fragili o ormai troppo emotivamente coinvolti. Il Garante privacy italiano è quindi intervenuto nel febbraio successivo, fermando lo strumento e sottolineando anche le varie violazioni commesse riguardo il mancato rispetto del Regolamento europeo sulla privacy, del principio di trasparenza e sul trattamento illecito dei dati. Nella mattinata di oggi 19 maggio 2025 si apre il capitolo successivo con la sanzione di 5 milioni di euro. Il Garante privacy ha quindi accertato la violazione delle disposizioni contestate, non ricevendo da parte della società statunitense “le basi giuridiche delle operazioni di trattamento effettuate attraverso Replika. Luka, inoltre, aveva fornito una privacy policy inadeguata sotto vari profili”.
