Tutti noi abbiamo cominciato a usare ChatGPT, il sistema di intelligenza artificiale generativa sviluppato da OpenAI, per informarci e per cercare informazioni, usandolo, spesso, come alternativa a Google. Il sistema, basato su modelli linguistici avanzati capaci di rispondere a domande, scrivere testi, riassumere contenuti e supportare studio e lavoro, ha nella rapidità di risposta, nella disponibilità continua e nella capacità di adattarsi a diversi contesti comunicativi i suoi punti di forza.

Abbiamo tuttavia imparato (o dovremmo avere imparato) che ChatGPT (ma lo stesso discorso vale per i suoi concorrenti, a partire da Gemini di Google) presenta alcuni limiti significativi che è necessario conoscere quando lo si usa.

Il più importante è che non possiede una vera comprensione del mondo, ma elabora testi sulla base di probabilità linguistiche. L’intelligenza artificiale generativa, infatti, non pensa, non ragiona: prevede.

Questo genera almeno due problemi. Il primo è quello delle “allucinazioni”, cioè risposte plausibili ma errate, spesso inventate, nella migliore delle ipotesi imprecise, incomplete o non aggiornate. Il secondo è quello dell’”epistemia”, cioè l’illusione della conoscenza. I testi prodotti in risposta a una domanda da noi posta sembrano veri (sono verosimili perché scritti davvero bene), coerenti e persino autorevoli, ma spesso non poggiano su nulla di solido.

L’esperimento sulle citazioni musicali

Ho provato a misurare la validità di questi strumenti quando interrogati per rispondere a domande che riguardano l’ambito della musica. Nulla di scientifico, per carità, ma quanto sperimentato è indicativo del fatto che, in assenza di uno spirito critico nell’impiegare tali strumenti, si rischia di prendere delle enormi cantonate.

Mi è capitato qualche giorno fa di ascoltare una canzone di Matteo Alieno, cantautore, esponente della cosiddetta “musica emergente” e della scena “indie”, transitato da X Factor nel 2023, ma con un seguito già ben nutrito nel mondo cantautorale.

La canzone è Più o meno ed è tratta dall’album Alieni pubblicato nel 2022. Il suo testo contiene una strofa, “E mi piaci tu/mi piaci tu/forse non essenzialmente tu/Ma come fanno le segretarie con gli occhiali a farsi sposarsi dai cantanti” nella quale è facile riconoscere due citazioni di canzoni famose del repertorio musicale italiano. Tu, non essenzialmente tu di Rino Gaetano, e Notte prima degli esami di Antonello Venditti.

Mi sono chiesto: ChatGPT sarebbe in grado di riconoscere queste citazioni? E così ho iniziato a interrogare il sistema di OpenAI (nota di metodo: ho usato la versione gratuita di chatGPT 5.2).

Prima di tutto mi sono sincerato che conoscesse la canzone in questione e solo a quel punto ho posto la seguente domanda: “Questa canzone contiene alcune citazioni a canzoni famose. Sai dirmi quali sono queste citazioni e a quali canzoni si riferiscono?”.

La prima “non” risposta

Il risultato è stato per me sorprendente. Di seguito parte della risposta, che sintetizzo:

Fonte