Artemis II, quando l’AI è peggio dei complottisti: ChatGPT e Grok hanno bollato come false le foto della missione

I limiti dei chatbot nel fact-checking

L’episodio mostra perché i chatbot non possono essere utilizzati in modo affidabile per la verifica delle informazioni, soprattutto in ambito scientifico. Questi strumenti non sono in grado di stabilire in modo attendibile se un’immagine sia reale o falsa, ma si limitano a fornire la risposta che ritengono più probabile sulla base di schemi già visti, fonti disponibili, bias nell’addestramento e formulazione del prompt. Il loro “verdetto”, insomma, non nasce da un’analisi scientifica, bensì da una previsione statistica basata sul linguaggio.

Quando gli viene chiesto di studiare una foto e decretare se è falsa o meno, un modello di intelligenza artificiale non consulta dati di telemetria, non verifica la posizione reale dell’oggetto e non ne valuta nemmeno l’illuminazione, per non parlare dell’analisi dei metadati o delle corrispondenze visive. Nel caso delle nuove foto della Luna, è possibile che i chatbot non siano stati esposti a immagini simili nella fase di training e abbiano quindi concluso, con incrollabile sicurezza, che quelle diffuse dalla Nasa fossero false. Ma quando, qualche ora dopo, la rete si è riempita di articoli, post e conferme ufficiali della Nasa, le AI hanno potuto basare il proprio output sulle informazioni che nel frattempo erano diventate pubblicamente disponibili.

Studi recenti avvertono che, per come sono configurati oggi, i chatbot di AI generativa possono rafforzare i pregiudizi degli utenti fornendo risposte che finiscono per corroborare ciò di cui erano già convinti. In numerose occasioni, i sistemi come Grok o ChatGPT sono stati oggetto di critiche per via delle cosiddette allucinazioni o di contenuti problematici (per citare uno dei molti casi, Grok era addirittura arrivato a negare l’Olocausto prima di essere corretto). Senza contare le segnalazioni da parte di alcune autorità sanitarie su un aumento dei ricoveri psichiatrici a seguito di sessioni prolungate con i chatbot.

La Nasa ha già pubblicato diverse immagini ufficiali scattate dagli astronauti di Artemis II, che sui social sono state poi riprese da molti account ufficiali come quello della Casa Bianca. Ciononostante, lo scetticismo spinge ancora alcuni utenti a chiedere a Grok se quelle foto siano vere. Probabilmente non per ricevere una risposta corretta, ma per sentirsi ribadire ciò che già pensano.

Questo articolo è apparso originariamente su Wired en Español.