Deloitte ammette l’utilizzo di intelligenza artificiale per un rapporto governativo contenente errori

Lo studio di consulenza Deloitte ha recentemente ammesso di aver utilizzato l’intelligenza artificiale GPT-4 di OpenAI nella stesura di un documento redatto per il governo australiano. Il rapporto, intitolato “Targeted Compliance Framework Assurance Review” e pubblicato a luglio, era stato commissionato per valutare un sistema informatico destinato all’individuazione di dichiarazioni mendaci nelle richieste di aiuti statali.

Tuttavia, un gruppo di accademici dell’Università di Sydney ha scoperto che il rapporto conteneva numerosi errori, tra cui le cosiddette ‘allucinazioni dell’IA’, dichiarazioni false di esperti del settore e ricerche inventate. Questi errori hanno sollevato interrogativi sull’efficacia dell’utilizzo dell’intelligenza artificiale nella stesura di documenti governativi.

Deloitte ha annunciato di voler rimborsare parzialmente il governo australiano per la spesa di quasi 400.000 euro sostenuta per la realizzazione del rapporto. Inoltre, una nuova versione del rapporto è stata caricata sul sito web del dipartimento, con oltre una dozzina di cancellazioni di riferimenti e note a piè di pagina inesistenti, una bibliografia riscritta e correzioni di numerosi errori tipografici.

Chris Rudge, vicedirettore del dipartimento di Diritto Sanitario dell’Università di Sydney, aveva notato che il rapporto originale conteneva citazioni a rapporti inesistenti di Lisa Burton Crawford, una vera professoressa della facoltà di giurisprudenza del polo di Sydney. Questo ha sollevato interrogativi sull’attendibilità delle informazioni fornite dal rapporto.

Deloitte ha affermato che l’IA è stata utilizzata solo per “rifinire la parte di analisi tecnica” del rapporto e che gli aggiornamenti apportati non hanno alcun impatto o effetto sul contenuto sostanziale, sui risultati e sulle raccomandazioni del rapporto. Tuttavia, questo incidente solleva interrogativi sull’uso dell’intelligenza artificiale nella stesura di documenti governativi e sulla necessità di un controllo più rigoroso sulla qualità delle informazioni fornite.

Riproduzione riservata © Copyright