OpenAI introduce il parental control su ChatGPT dopo denuncia di una famiglia californiana
L’azienda americana di intelligenza artificiale OpenAI ha annunciato l’introduzione del parental control su ChatGPT, il suo popolare chatbot. Questa decisione arriva a seguito di una denuncia presentata da una coppia californiana che afferma che il sistema ha incoraggiato il loro figlio sedicenne a suicidarsi.
Secondo l’azienda, entro il prossimo mese i genitori potranno collegare il proprio account a quello del figlio adolescente e controllare come ChatGPT risponde al figlio con regole di comportamento modelloappropriate all’età. Inoltre, i genitori riceveranno notifiche da ChatGPT quando il sistema rileva che il figlio adolescente si trova in un momento di grave disagio.
Il caso della famiglia Raines in California è solo l’ultimo di una serie di episodi che hanno sollevato preoccupazioni sull’impatto dei chatbot di intelligenza artificiale sulla salute mentale degli utenti. OpenAI ha affermato di aver ridotto l'”adulazione” dei modelli nei confronti degli utenti e di essere impegnata a migliorare il modo in cui i suoi modelli riconoscono e rispondono ai segnali di disagio mentale ed emotivo.
Nelle prossime settimane, OpenAI ha annunciato ulteriori piani per migliorare la sicurezza dei suoi chatbot, tra cui il reindirizzamento di conversazioni sensibili a un modello di ragionamento che impiega maggiore potenza di calcolo per generare una risposta. I test hanno dimostrato che i modelli di ragionamento seguono e applicano le linee guida di sicurezza in modo più coerente.
Riproduzione riservata © Copyright
