Una ricerca del quotidiano britannico The Guardian ha messo in luce i rischi per gli utenti che affidano i loro quesiti di ambito sanitario all’intelligenza artificiale. Le informazioni fuori contesto, incomplete ed erronee possono indurre i pazienti a sottovalutare problematiche serie e a non rivolgersi a esperti. “Ci impegniamo per apportare ampi miglioramenti e, ove opportuno, adottiamo misure nell’ambito delle nostre politiche”, fanno sapere da Google
“Pericolose e allarmanti”. Così il Guardian ha definito le informazioni mediche che l’intelligenza artificiale AI Overviews di Google forniva agli utenti. E proprio dopo un’indagine del quotidiano britannico, il colosso ha deciso di rimuovere dal suo database alcuni riepiloghi riguardanti la salute delle persone che, a causa di informazioni fuorvianti, incomplete o addirittura sbagliate, rischiavano di essere messe in pericolo. Come scrive il Guardian, per Google le risposte dell’intelligenza artificiale in merito ad alcune informazioni essenziali in campo medico sono “utili” e “affidabili”.
Il caso
Affermazione smentita dalla ricerca condotta dallo stesso quotidiano che cita un caso specifico nel quale AI Overviews avrebbe fornito informazioni false in merito a importanti test sulla funzionalità epatica che potrebbero indurre persone malate a credere invece di essere sane e, pertanto, a non rivolgersi a medici esperti. Alla domanda su quale sia l’intervallo normale per gli esami del sangue del fegato, come scrive il Guardian, l’intelligenza artificiale “ha fornito una grande quantità di numeri, poco contesto e nessuna considerazione sulla nazionalità, il sesso, l’etnia o l’età dei pazienti”. In questo modo le informazioni possono essere male interpretate e mandare gli utenti incontro a rischi seri per la propria salute.
Leggi anche
La dieta di Silvio Garattini: no al vino, alla carne rossa e al burro
Google ha rimosso le risposte sotto indagine
“Non commentiamo le singole rimozioni all’interno della Ricerca. Nei casi in cui le panoramiche sull’intelligenza artificiale non tengono conto del contesto, ci impegniamo per apportare ampi miglioramenti e, ove opportuno, adottiamo misure nell’ambito delle nostre politiche”. Queste le parole, riportate dal Guardian, di un portavoce di Google che, in seguito alla segnalazione degli errori di Overviews, ha provveduto alla rimozione degli stessi.
Potrebbe interessarti
“L’Anoressia mi stava togliendo la voce”, la storia di Giulia Molino
ChatGpt Health di OpenAI
Tutto ciò avviene mentre un’altra azienda informatica come OpenAI lancia il suo nuovo assistente per la salute ChatGpt Health. Si tratta di una sezione separata della piattaforma di intelligenza artificiale dedicata al mondo della salute e delle questioni mediche. L’obiettivo, come spiegano dalla società di Sam Altman, è quello di offrire risposte basate sulle informazioni sanitarie e sul contesto. L’app non serve a sostituire i medici ma ad aiutare a tenere insieme le cartelle cliniche elettroniche e le app di benessere in modo tale che il chatbot possa “aiutare a comprendere i risultati recenti degli esami, prepararsi agli appuntamenti medici, ricevere indicazioni su alimentazione e routine di allenamento o valutare i compromessi tra diverse opzioni assicurative in base ai modelli di assistenza sanitaria”.
Leggi anche
ChatGpt Health, OpenAI lancia l’assistente per la salute
