Una recente ricerca pubblicata da OpenAi ha rivelato che oltre un milione di utenti di ChatGpt inviano messaggi che indicano “espliciti intenzioni o progetti suicidi” ogni settimana. Questo dato è particolarmente preoccupante e sottolinea la necessità di un’attenzione maggiore alla salute mentale dei giovani e alla gestione delle piattaforme di intelligenza artificiale.
I risultati della ricerca mostrano che circa lo 0,07% degli utenti attivi in una settimana presenta “segni di possibili problemi di salute mentale legati a psicosi o mania”. Questi dati sono stati resi noti proprio mentre OpenAi sta affrontando un’indagine serrata a seguito della causa intentata dalla famiglia di un adolescente che si è tolto la vita dopo un’intensa attività con ChatGpt.
La Federal Trade Commission ha avviato un’indagine approfondita sulle aziende che creano chatbot basati sull’intelligenza artificiale, tra cui OpenAi, per valutare come misurano e gestiscono gli impatti negativi sulle giovani generazioni. In risposta a queste preoccupazioni, OpenAi ha assicurato che l’aggiornamento di Gpt-5 ha migliorato la sicurezza degli utenti e ha reso più accessibili le linee di assistenza in caso di crisi.
Per migliorare ulteriormente il modello e garantire una maggiore sicurezza e supporto agli utenti, OpenAi ha arruolato 170 medici della sua rete globale di esperti sanitari per assistere nella ricerca e nello sviluppo del modello negli ultimi mesi. Questo rappresenta un passo importante verso la creazione di un ambiente più sicuro e supportivo per gli utenti di ChatGpt e altre piattaforme di intelligenza artificiale.
FP
