da Hardware Upgrade :
Bloomberg ha pubblicato un articolo in cui vengono riportate alcune presunte conversazioni tra le persone coinvolte nel progetto Bard, il chatbot AI di Google. Nel pezzo si riportano scambi di battute tra 18 dipendenti o ex dipendenti che, tra i tanti commenti, invitano la società a non rendere pubblica l’IA.
Sulle pagine della testata americana vengono citate sia discussioni che schermate di chat interne, tra le quali apparirebbero considerazioni poco rassicuranti. Secondo quanto riportato, Bard fornirebbe consigli pericolosi per attività come l’atterraggio di un aereo o le immersioni subacquee che potrebbero mettere a rischio l’incolumità delle persone.
“È più che inutile: per favore non rilasciatelo” avrebbe scritto uno dei dipendenti. “È un bugiardo patologico” secondo un altro. Il parere comune che traspare dalle chat è che Bard indirizzi l’utenza verso informazioni errate o false, diventando un pericolo piuttosto che un ausilio.
Google avrebbe quindi messo da parte le preoccupazioni etiche annullando perfino “una valutazione del rischio”. Secondo i dipendenti, l’intelligenza artificiale non era pronta per l’uso generale, ma nonostante i pareri contrari, quella rilasciata a marzo sarebbe una versione “sperimentale” del chatbot rischiosa per gli utenti.
A dare forza a quanto sopra, ci sarebbero gli allontanamenti di Timnit Gebru e Margaret Mitchell avvenuti tra il 2021 e il 2022. In un’intervista, la Gebru dichiarò che la separazione arrivò in seguito al documento intitolato “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” in cui venivano esposti i rischi legati alla discriminazione e ai pregiudizi nei linguaggi delle IA.
Il motivo per cui Google avrebbe trascurato tali rischi sono correlati all’aspetto finanziario, secondo Bloomberg. Il gigante di Mountain View avrebbe rilasciato consapevolmente una versione inadeguata dell’IA così da favorire il suo business e far fronte alla concorrenza di realtà come OpenAI e Microsoft.
Nel frattempo, Brian Gabriel, portavoce di Google, ha replicato a Bloomberg dichiarando che l’etica dell’IA Bard è una priorità assoluta per l’azienda. “Stiamo continuando a investire nei team che lavorano sull’applicazione dei nostri principi per l’intelligenza artificiale all’interno della nostra tecnologia“.