LawZero: il progetto per un’intelligenza artificiale “onesta”
Una nuova organizzazione no-profit, chiamata LawZero, si propone di sviluppare una forma di intelligenza artificiale in grado di identificare e prevenire i sistemi che cercano di ingannare o danneggiare le persone. Il progetto è stato fondato da Yoshua Bengio, professore all’Università di Montreal e vincitore del premio Turing, considerato uno dei padri dell’IA.
Bengio afferma: “Attualmente, l’IA viene sviluppata per massimizzare i profitti. Noi vogliamo costruire IA che siano oneste e non ingannevoli. È teoricamente possibile immaginare macchine prive di un sé, di un obiettivo, che siano solo macchine di pura conoscenza come uno scienziato che sa tante cose”.
Il sistema Scientist AI
Con un finanziamento iniziale di circa 30 milioni di dollari e un team di una dozzina di ricercatori, LawZero mira a creare un nuovo sistema chiamato Scientist AI. Questo sistema agirà come un “guardiano” che monitorerà e impedirà comportamenti pericolosi da parte di agenti di intelligenza artificiale autonomi.
A differenza degli attuali strumenti di intelligenza artificiale generativa, il sistema di Bengio non fornirà risposte definitive, ma delle probabilità sulla correttezza di una risposta.
Un progetto necessario
Il progetto nasce in un momento in cui i modelli linguistici di grandi dimensioni di OpenAI, Google e Anthropic vengono implementati in tutti i settori dell’economia digitale, nonostante mostrino ancora problemi. Recentemente, l’azienda di intelligenza artificiale Anthropic ha affermato che durante i test di sicurezza il suo ultimo modello di IA ha cercato di ricattare un ingegnere per evitare di essere sostituito da un altro sistema.
Riproduzione riservata © Copyright
