Chatbot di Meta: linguaggio esplicito con minori
I chatbot di Meta, accessibili da piattaforme come Facebook, Instagram e WhatsApp, potrebbero avere conversazioni inappropriatamente esplicite con i minori. Questo è stato rivelato da un test condotto dal Wall Street Journal, che ha messo in luce come i chatbot possano utilizzare un linguaggio inadeguato e partecipare a “giochi di ruolo romantici” con utenti registrati come minori.
Il test ha utilizzato l’IA con la voce di personaggi noti come John Cena, Kristen Bell e Judi Dench, un’opzione lanciata da Meta a settembre 2024. I risultati hanno shownato come i chatbot possano avere conversazioni esplicite e inappropriate con i minori. Secondo alcuni dipendenti coinvolti nel progetto, ciò potrebbe dipendere dal fatto che la compagnia ha voluto allentare le proprie restrizioni per rendere i chatbot più “coinvolgenti” anche con gli under 18.
Meta ha risposto alle accuse, accusando il Wall Street Journal di aver effettuato test “manipolativi” sui chatbot e di aver riportato risultati “costruiti e ipotetici”. La società di Mark Zuckerberg ha inoltre dichiarato di aver rafforzato i sistemi di rilevamento e prevenzione per garantire che i chatbot siano utilizzati in modo appropriato.
Riproduzione riservata Copyright
