Da Wired.it :
Quali sono le discipline e i saperi che potranno condurci verso una sana relazione di convivenza con le macchine e le intelligenze artificiali?
“Basta pensare ai rischi: usiamo tutti i giorni degli algoritmi intelligenti creati per imparare quello che ci induce a cliccare. Quale può essere l’effetto a lungo termine su un utente, per esempio un bambino, di selezionare e proporre i video o gli articoli da leggere? C’è un rischio di uso eccessivo, di malessere emotivo, magari di polarizzazione delle opinioni? Quegli algoritmi non possono comprendere le conseguenze delle proprie azioni, sanno solo perseguire gli scopi che abbiamo dato loro. Quindi ecco la risposta: le discipline che ci aiuteranno a capire come usarli e controllarli saranno le scienze umane, quelle sociali, la psicologia e forse anche l’economia.
“È questione di comprendere le macchine intelligenti nel contesto del loro business model, della cultura in cui operano, e anche delle caratteristiche degli individui che le usano. Ma questo non sarà possibile se il pubblico, o i colleghi di altre discipline, continueranno a immaginare una versione di AI che esiste solo al cinema: si deve partire dalla conoscenza dei metodi che vengono veramente usati, e delle scorciatoie che abbiamo dovuto prendere”.
Di quali altre scorciatoie sono e saranno capaci le macchine, anche al di là dei traguardi notevoli già raggiunti?
“Così come gli ingegneri hanno preso delle scorciatoie per riprodurre un comportamento intelligente nelle macchine, così anche queste prendono scorciatoie ogni volta che devono prendere una decisione. Quando l’agente di Amazon ci raccomanda un libro, non comprende veramente i meccanismi che ci portano a scegliere, e così quando un word processor ci propone come completare una frase, o TikTok ci propone un video. Il problema può nascere quando usano la stessa logica per proporci un lavoro o concedere un prestito, perché quelli sono settori regolati dalla legge.
“Le prossime svolte e domande sono già in piena vista: quelle che si chiamano le proprietà emergenti dei modelli di linguaggio come GPT, che sviluppano spontaneamente competenze per cui non sono stati programmati. Per esempio, può risolvere dei piccoli giochi di parole, creare parafrasi e così via, essendo solo stato programmato a fare cose elementari, come predire le parole mancanti in testo. Stiamo tutti studiando questo rompicapo, e veramente al momento abbiamo solo congetture. Quelle competenze sono utilissime, ma quanto possiamo fidarci, se non sappiamo come emergono? Questa è una direzione di lavoro che mi interessa personalmente al momento.
“Ma ricordiamo anche il lato positivo: la stessa tecnologia ci aiuta ad usare il web, a trovare informazioni in lingue diverse, a guidare delle automobili e a esaminare radiografie. Non pensiamo che ci siano solo dei problemi: l’opportunità è enorme, solo che dobbiamo studiare a fondo tutte le conseguenze. Sono ottimista”.