Tutti noi abbiamo cominciato a usare ChatGPT, il sistema di intelligenza artificiale generativa sviluppato da OpenAI, per informarci e per cercare informazioni, usandolo, spesso, come alternativa a Google. Il sistema, basato su modelli linguistici avanzati capaci di rispondere a domande, scrivere testi, riassumere contenuti e supportare studio e lavoro, ha nella rapiditร di risposta, nella disponibilitร continua e nella capacitร di adattarsi a diversi contesti comunicativi i suoi punti di forza.
Abbiamo tuttavia imparato (o dovremmo avere imparato) che ChatGPT (ma lo stesso discorso vale per i suoi concorrenti, a partire da Gemini di Google) presenta alcuni limiti significativi che รจ necessario conoscere quando lo si usa.
Il piรน importante รจ che non possiede una vera comprensione del mondo, ma elabora testi sulla base di probabilitร linguistiche. Lโintelligenza artificiale generativa, infatti, non pensa, non ragiona: prevede.
Questo genera almeno due problemi. Il primo รจ quello delle โallucinazioniโ, cioรจ risposte plausibili ma errate, spesso inventate, nella migliore delle ipotesi imprecise, incomplete o non aggiornate. Il secondo รจ quello dell’โepistemiaโ, cioรจ lโillusione della conoscenza. I testi prodotti in risposta a una domanda da noi posta sembrano veri (sono verosimili perchรฉ scritti davvero bene), coerenti e persino autorevoli, ma spesso non poggiano su nulla di solido.
L’esperimento sulle citazioni musicali
Ho provato a misurare la validitร di questi strumenti quando interrogati per rispondere a domande che riguardano lโambito della musica. Nulla di scientifico, per caritร , ma quanto sperimentato รจ indicativo del fatto che, in assenza di uno spirito critico nellโimpiegare tali strumenti, si rischia di prendere delle enormi cantonate.
Mi รจ capitato qualche giorno fa di ascoltare una canzone di Matteo Alieno, cantautore, esponente della cosiddetta โmusica emergenteโ e della scena โindieโ, transitato da X Factor nel 2023, ma con un seguito giร ben nutrito nel mondo cantautorale.
La canzone รจ Piรน o meno ed รจ tratta dallโalbum Alieni pubblicato nel 2022. Il suo testo contiene una strofa, โE mi piaci tu/mi piaci tu/forse non essenzialmente tu/Ma come fanno le segretarie con gli occhiali a farsi sposarsi dai cantantiโ nella quale รจ facile riconoscere due citazioni di canzoni famose del repertorio musicale italiano. Tu, non essenzialmente tu di Rino Gaetano, e Notte prima degli esami di Antonello Venditti.
Mi sono chiesto: ChatGPT sarebbe in grado di riconoscere queste citazioni? E cosรฌ ho iniziato a interrogare il sistema di OpenAI (nota di metodo: ho usato la versione gratuita di chatGPT 5.2).
Prima di tutto mi sono sincerato che conoscesse la canzone in questione e solo a quel punto ho posto la seguente domanda: โQuesta canzone contiene alcune citazioni a canzoni famose. Sai dirmi quali sono queste citazioni e a quali canzoni si riferiscono?โ.
La prima โnonโ risposta
Il risultato รจ stato per me sorprendente. Di seguito parte della risposta, che sintetizzo:
