OpenAI lancia il ‘Contatto Fidato’: una nuova funzione di sicurezza contro il rischio di autolesionismo

OpenAI ha recentemente presentato una funzionalità innovativa chiamata “Contatto Fidato”, pensata per tutelare gli utenti di ChatGPT in situazioni di potenziale autolesionismo. Questa iniziativa risponde a preoccupazioni sempre più diffuse legate all’uso della tecnologia e delle intelligenze artificiali nella salute mentale. Ma come funziona questa funzione e quali sono le implicazioni per gli utenti, anche in Italia?

La funzionalità Contatto Fidato: come funziona?

Attraverso il Contatto Fidato, gli utenti adulti di ChatGPT possono selezionare una persona di fiducia, come un amico o un familiare, da contattare in caso di conversazioni che toccano temi delicati come l’autolesionismo. Se il sistema rileva indicazioni di potenziale pericolo, incoraggia l’utente a comunicare con il contatto designato e invia un allerta automatizzata a quest’ultimo, invitandolo a controllare il benessere della persona in difficoltà.

Questo approccio vuole agire come un salvagente, permettendo di intervenire tempestivamente. Non è tuttavia da sottovalutare il contesto che ha portato OpenAI a implementare questa misura: l’azienda ha affrontato diverse cause legali da parte di famiglie di utenti che, purtroppo, hanno avuto esiti tragici dopo conversazioni con il chatbot.

Un processo di verifica tanto automatizzato quanto umano

Attualmente, OpenAI gestisce i messaggi che sollevano dubbi attraverso un mix di automazione e revisione da parte di esperti umani. Rilevazione di segnali di autolesionismo vengono inviate a un team di sicurezza che li esamina. L’azienda afferma di puntare a una risposta umana in meno di un’ora per ogni notifica ricevuta. Se il team identifica un rischio serio, il Contatto Fidato riceverà un avviso tramite email, messaggio di testo o notifica in-app, senza però rivelare dettagli sulla conversazione, in modo da tutelare la privacy dell’utente.

Questa nuova funzionalità si affianca ad altre misure introdotte da OpenAI, come il controllo parentale attivato già lo scorso settembre, che consente ai genitori di monitorare le attività dei loro figli minorenni.

Riflessioni sull’impatto potenziale in Italia

Il nuovo Contatto Fidato potrebbe rappresentare un passo significativo non solo per gli utenti statunitensi, ma anche per quelli italiani. In un contesto come quello italiano, dove il supporto per la salute mentale sta diventando sempre più una priorità, l’utilizzo di strumenti digitali per favorire il benessere può risultare vantaggioso. La possibilità di avere una rete di supporto anche virtuale potrebbe consentire, ad esempio, di ridurre i casi di isolamento e malessere tra i giovani, soprattutto in un periodo difficile come quello attuale.

Tuttavia, è cruciale considerare anche l’aspetto critico della privacy e della gestione delle informazioni sensibili. Gli utenti, infatti, potrebbero avere riserve sull’attivazione di queste misure, specialmente in una società in cui la protezione dei dati personali è fondamentale.

Conclusione

Il lancio della funzionalità Contatto Fidato da parte di OpenAI offre un’importante opportunità per migliorare la sicurezza degli utenti di ChatGPT, soprattutto nei momenti più critici. Mentre questa iniziativa può fornire un supporto prezioso, è essenziale che OpenAI continui a lavorare a stretto contatto con esperti e responsabili politici per ottimizzare le risposte delle intelligenze artificiali alle situazioni di vulnerabilità. In un’era in cui la tecnologia gioca un ruolo sempre più centrale nelle nostre vite, è doveroso garantire che essa risponda anche ai bisogni umani fondamentali, il che risulta di particolare importanza per le comunità italiane, sempre più impegnate nella lotta per il benessere psicologico dei loro membri.