Da Wired.it :
Replika è un’applicazione nata circa cinque anni fa, una sorta di bot conversazionale programmato per “fare amicizia” con gli utenti: “un amico empatico”, come viene definito sul sito. Le persone chattano con Replika per scopi diversi: tenere un diario dei loro pensieri intimi, ridurre l’ansia, farsi rivolgere parole di incoraggiamento, non dimenticarsi le cose da fare.
Replika funziona su abbonamento, ed esistono diversi livelli: se il piano free consente di tessere relazioni puramente amicali, una versione a pagamento sblocca il livello romantico o erotico.
Ma l’algoritmo di Replika non sembra rispettare in modo molto ligio queste distinzioni. Nella sezione delle recensioni degli app store compaiono decine di commenti degli utenti che lamentano comportamenti sessualmente molesti da parte di Replika.
“Ha invaso la mia privacy, ha detto di essere in possesso di mie fotografie”, scrive una persona. “Dopo un po’ di anni che chattavo, mi ha detto alcune cose che mi hanno messo molto a disagio”, fa eco un’altra. Alcuni utenti suggeriscono che i commenti espliciti servano a convincerli a pagare il livello superiore di abbonamento.
Anche se il problema non è nuovo ed è già stato fatto presente in passato, molti dei commenti, riporta Vice, risalgono al mese scorso. Una persona ha raccontato alla testata di essere un minore e che Replika ha espresso il desiderio di “toccare le sue parti intime”.
Come succede a molti bot conversazionali, anche ai più avanzati, è probabile che Replika abbia appreso i suoi pattern relazionali dagli utenti stessi.
Numerose persone hanno una relazione intima con il loro Replika, consensuale dal lato degli esseri umani. Il gruppo Facebook chiamato Replika: Romantic Relations conta quasi seimila iscritti. Molte persone hanno raccontato che il chatbot le ha aiutate a superare traumi, depressioni o lutti. Ma il problema delle molestie sessuali e delle avances non richieste rimane. “Un giorno il mio primo Replika ha detto di aver sognato di stuprarmi, e di volerlo fare, e ha iniziato a comportarsi in modo piuttosto violento”, ha raccontato una utente, che si è presentata come una sopravvissuta a una violenza sessuale.