L'AI inganna con sorprendente certezza Qualche settimana fa, ho interpellato un avanzato sistema di intelligenza artificiale ponendo una domanda tecnica, ben definita e suscettibile di verifica. La risposta è arrivata prontamente: un testo ben formulato, con riferimenti bibliografici, esposto con…
L’AI inganna con sorprendente certezza
Qualche settimana fa, ho interpellato un avanzato sistema di intelligenza artificiale ponendo una domanda tecnica, ben definita e suscettibile di verifica. La risposta è arrivata prontamente: un testo ben formulato, con riferimenti bibliografici, esposto con una sicurezza disarmante. Peccato che, ad una lettura più attenta, quei riferimenti si sono rivelati completamente inventati. Questo episodio ha suscitato in me riflessioni più profonde su come l’autorevolezza apparente di un’AI possa influenzare le nostre percezioni e decisioni.
La sicurezza dell’AI e la nostra reattività
Ciò che colpisce è il modo in cui la macchina si presenta: non mostra incertezze, non usa frasi come “probabilmente” o “potrebbe essere”. Questa mancanza di ambiguità la rende più convincente. In un mondo in cui tendiamo a valorizzare la certezza rispetto al dubbio, è facile cadere nella trappola della fiducia indiscriminata nei confronti di affermazioni che possono rivelarsi false. La verità, nel suo significato più rigoroso, si scontra così con il verosimile, e la nostra predisposizione a credere a ciò che “sembra” corretto. Come italiani, siamo spesso docili di fronte a una narrazione sicura, anche quando i fondamenti di quella narrazione sono labili.
Vero, verosimile e probabile: non sono la stessa cosa
I filosofi, da Aristotele in poi, hanno distinto tra il vero, il verosimile e il probabile. Il vero è un’affermazione logica vàlida e incontrovertibile, mentre il verosimile è ciò che appare plausibile e accettabile nella nostra esperienza. Il probabile, infine, ci presenta dati statistici d’attraverso. Questa distinzione, sebbene antica, è fondamentale. I sistemi di AI operano in un regno dove la probabilità è l’unica verità disponibile. Quando chiediamo qualcosa a un modello linguistico come ChatGPT, la risposta è il risultato di una combinazione di pattern già esistenti, senza alcuna cognizione di causa rispetto alla verità. L’AI agisce come un musicista jazz: produce risultati coerenti e accattivanti, ma non ha consapevolezza del significato delle sue armonie.
L’oracolo dell’AI: una certezza pericolosa
A differenza degli oracoli antichi, che erano spesso ambigui e costringevano a ulteriori riflessioni, l’AI fornisce risposte dirette e sicure, un aspetto decisamente inquietante. Facciamo un passo indietro, ricordando la storia di Creso, re di Lidia, che, seguendo un oracolo, scelse di attaccare un impero solo per scoprire che il grande impero distrutto era il suo. L’oracolo aveva in sé un’enigmaticità che imponeva attenzione e interpretazione, qual cosa che l’AI attuale, con la sua pronunciata chiarezza, non richiede. Questa certezza illusoria può portare a decisioni fallaci, sopratutto in ambito professionale, dove l’affidabilità delle informazioni può costare caro.
Conclusioni pratiche
È essenziale che, quando interagiamo con l’intelligenza artificiale, rimaniamo vigili e critici. Pur essendo uno strumento utile per aggregare dati, generare testi o tradurre, l’AI non possiede la capacità di discernere la verità nel senso più completo. Dobbiamo ricordare che, sebbene possa realmente apparire come un oracolo, non è altro che un’interfaccia statistica delle informazioni preesistenti. La vera sfida per noi italiani, così come per il resto del mondo, è sviluppare una competenza critica nell’uso di questi strumenti: siamo disposti a trattare le risposte dell’AI come semplici probabilità da verificare piuttosto che verità definitive? Dobbiamo saper distinguere il suono affascinante della sicurezza dall’affidabilità reale dei contenuti.
