Google e la startup Character.AI hanno raggiunto un accordo per chiudere le cause aperte negli Stati Uniti sui danni ai minori dovuti all’uso dei chatbot di intelligenza artificiale. I termini economici non sono stati resi noti, in attesa di finalizzazione. Al centro dei dissidi c’è la piattaforma Character.AI, che permette di creare e interagire con assistenti digitali personalizzati. Google è coinvolta a seguito di una licenza da 2,7 miliardi di dollari firmata nel 2024 con la startup che sviluppa il servizio.
Tra gli episodi citati dai documenti depositati presso il tribunale della Florida, c’è quello di Sewell Setzer Jr., un quattordicenne suicida nel febbraio del 2024, che avrebbe conversato con una IA ispirata a ‘Game of Thrones’. Altri casi riguardano adolescenti in Colorado, nello Stato di New York e in Texas. “Le parti hanno raggiunto un accordo di principio attraverso la mediazione per risolvere tutte le controversie”, si legge nel documento.
A ottobre, Character.AI aveva annunciato la volontà di bloccare l’accesso dei minori ai suoi chatbot. “Riteniamo che questa sia la decisione appropriata, date le preoccupazioni sollevate su come gli adolescenti utilizzano e dovrebbero utilizzare questa nuova tecnologia”, ha spiegato l’azienda all’Afp. Ad agosto, i genitori di un sedicenne morto suicida negli Stati Uniti hanno fatto causa ad OpenAI, accusando il suo assistente ChatGpt di aver fornito al figlio istruzioni su come porre fine alla sua vita e di averne incoraggiato le azioni. La Federal Trade Commission (Ftc) degli Stati Uniti ha avviato all’inizio di settembre un’indagine sui chatbot di intelligenza artificiale generativa destinati al pubblico.
Questo accordo rappresenta un passo importante nella gestione dei rischi associati all’uso dei chatbot di intelligenza artificiale, soprattutto tra i minori. La questione solleva importanti interrogativi sulla responsabilità delle aziende tecnologiche nel garantire la sicurezza e il benessere degli utenti, specialmente quelli più vulnerabili.
La decisione di Character.AI di bloccare l’accesso dei minori ai suoi chatbot e l’accordo raggiunto con Google dimostrano un impegno aaddressare le preoccupazioni sollevate dalle famiglie e dalle autorità. Tuttavia, rimane aperta la questione di come le aziende tecnologiche possano efficacemente monitorare e controllare l’uso dei loro servizi da parte dei minori, e di come possono essere messi in atto sistemi di protezione più efficaci.
FP
