D’altronde, lo scenario ipotizzato da Oppenheim e Russo non è così nuovo. Qualcosa di simile è già successo, mutatis mutandis, con la cosiddetta teoria dell’etere – tempo fa si credeva che le contraddizioni tra meccanica ed elettromagnetismo potessero essere risolte solo ammettendo l’esistenza di un etere, per l’appunto, ossia di un mezzo in grado di propagare la luce; diversi esperimenti successivi, e la teoria della relatività di Albert Einstein, rimisero a posto le cose e dimostrarono che in realtà l’esistenza dell’etere non è necessaria, e la teoria fu abbandonata. “In assenza di prove dirette [dell’esistenza] della materia oscura e dell’energia oscura”, scrive ancor Oppenheim, “è naturale chiedersi se si tratti di costrutti scientifici non necessari, come fu per esempio per le sfere celesti, l’etere o il pianeta Vulcano, tutti successivamente sostituiti da spiegazioni più semplici. La gravità è storicamente sempre stata una grande imbrogliona”.

L’Universo bolle in pentola

La spiegazione più semplice di Oppenheim e Russo, in questo caso, coinvolge la cosiddetta teoria postquantistica della gravità classica, che ha l’ambizioso obiettivo di risolvere uno dei problemi più complessi e affascinanti della fisica moderna, ossia l’incompatibilità tra meccanica quantistica e relatività generale (due teorie che, prese indipendentemente, funzionano alla perfezione, ma che non possono essere inserite in un impianto unico coerente e armonioso), o, in altre parole, l’attuale difficoltà che hanno i fisici nel quantizzare la gravità. Secondo Oppenheim, il tessuto dello spazio-tempo, il sistema a quattro dimensioni in cui vive il nostro Universo, sarebbe “liscio” e continuo, cioè avrebbe le caratteristiche tipiche della fisica classica (il mondo della meccanica quantistica è invece discreto, ossia “discontinuo”), ma anche “intrinsecamente traballante”, ossia caratterizzato da continue fluttuazioni: la velocità di scorrimento del tempo, per esempio, fluttuerebbe in modo casuale e imprevedibile, e lo stesso avverrebbe per lo spazio, che si “deformerebbe” casualmente in diversi punti.

Sarebbe proprio questo continuo “gorgoglio” di spazio e tempo, come quello di un ragù che bolle in pentola, a causare gli effetti che attualmente attribuiamo alla materia oscura, come per l’appunto le irregolarità nella rotazione delle galassie. “Abbiamo dimostrato”, si legge in un altro post di Oppenheim su X, “che si può spiegare l’espansione dell’Universo e le curve di rotazione delle galassie senza necessità di materia o energia oscura”. Ma è lo stesso Oppenheim a invitare alla prudenza nell’interpretazione e nella valutazione di questa ipotesi: “La cautela è d’obbligo, perché al momento esistono prove indirette della presenza della materia oscura, quindi sono necessari altri calcoli e altri confronti con i dati che abbiamo a disposizione. Se la nostra ipotesi fosse giusta, il 95% dell’energia dell’Universo sarebbe dovuta alla natura irregolare dello spazio-tempo, il che vorrebbe dire che siamo immersi in un ambiente che non obbedisce alle leggi della fisica classica o quantistica”. E cioè che la maggior parte della fisica conosciuta è da riscrivere, o quantomeno da correggere pesantemente. Solo il tempo potrà confermarlo o smentirlo.

Il nostro ultimo report di ricerca si intitola Civil Society’s Struggle Against Algorithmic Injustice in Europe. Basato su interviste con attivisti e rappresentanti delle organizzazioni della società civile europea, esplora come le organizzazioni per i diritti digitali e la data justice definiscono gli errori dell’AI, come mettano in discussione l’uso dei sistemi di AI e sottolinea l’urgente necessità di questi dibattiti.

La nostra ricerca ha rivelato un panorama complessivo di preoccupazione, poiché la maggior parte delle persone intervistate condivide il punto di vista maggioritario presso studiosi e le studiose di AI: l’intelligenza artificiale può spesso essere razzista, discriminatoria e riduttiva quando si tratta di dare un senso agli esseri umani e analizzarne i comportamenti. Molti dei nostri intervistati hanno anche sottolineato ed enfatizzato come non dovremmo considerare gli errori dell’AI come un problema puramente tecnologico. Piuttosto, questi sono sintomi di questioni sociali sistemiche più ampie che precedono gli sviluppi tecnologici recenti. La polizia predittiva è un chiaro esempio. Poiché questi sistemi si basano su dati della polizia che riguardano il passato, potenzialmente falsificati o corrotti, possono perpetuare forme esistenti di discriminazione su base etnica, spesso portando alla profilazione razziale e persino ad arresti illegali.

L’AI sta già influenzando la nostra vita quotidiana

Per le organizzazioni della società civile europea, un problema chiave è la mancanza di consapevolezza tra il pubblico che l’AI sia già utilizzata per prendere decisioni in numerose aree della loro vita. Anche quando le persone ne sono consapevoli, infatti, spesso non è chiaro come operino queste black box, o chi dovrebbe essere ritenuto responsabile quando prendono una decisione ingiusta o iniquia.

Questa mancanza di visibilità significa anche che la lotta per la giustizia algoritmica non è solo una questione politica, ma anche simbolica, perché mette in discussione le nostre stesse idee di oggettività e precisione. I dibattiti sull’AI sono notoriamente dominati dall’isteria mediatica e dal panico, come ha mostrato il nostro primo rapporto di ricerca, pubblicato nel 2022. Di conseguenza, le organizzazioni della società civile europea sono costrette a perseguire due obiettivi: parlare chiaramente della questione e mettere in discussione la visione predominante che vede l’IA come una panacea automatizzata per la soluzione di problemi sociali complessi. L’importanza di dare il giusto nome al problema emerge con evidenza dai risultati del nostro nuovo report, dove gli intervistati e le intervistate si sono spesso dette riluttanti persino a utilizzare termini come “Etica dell’AI”, arrivando persino a non menzionare affatto “IA”. Invece, hanno spesso adottato termini alternativi e più specifici come “statistica avanzata”, “automatic decision making” o “sistemi Adm”.

Contenere il potere delle grandi aziende tecnologiche

Oltre a sensibilizzare il pubblico, uno dei principali problemi, secondo le organizzazioni della società civile europee che si battono per la giustizia algoritmica, è limitare il potere dominante delle grandi aziende tecnologiche. Diverse organizzazioni che abbiamo intervistato sono state coinvolte in iniziative connesse all’AI Act dell’Unione europea e, in alcuni casi, hanno persino giocato un ruolo diretto nel mettere in evidenza alcune questioni aperte e chiudere le falle che le aziende tecnologiche avrebbero potuto sfruttare.

Secondo alcune organizzazioni, ci sono elementi, come il riconoscimento facciale biometrico negli spazi pubblici, dove solo un divieto assoluto potrà sufficiente a scongiurare scenari di sorveglianza di massa. Altre organizzazioni, addirittura, si sono dette scettiche nei confronti della legislazione nel complesso, ritenendo che essa da sola non possa risolvere tutti i problemi presentati dalla continua diffusione dei sistemi algoritmici. La nostra ricerca mostra anche che, per affrontare il potere dei sistemi algoritmici, occorre smettere di considerare gli errori dell’IA come un problema puramente tecnologico, ma che serve iniziare a inquadrarlo come un problema espressamente politico. A dover essere risolto non è un difetto tecnologico del sistema o un suo glitch, ma le disuguaglianze sistemiche che questi sistemi perpetuano e da cui hanno origine.

Il report “Civil Society’s Struggle Against Algorithmic Injustice in Europe” dello Human Error Project è disponibile qui.

Questo articolo è apparso originariamente in lingua inglese sull’edizione europea di The Conversation. La testata e gli autori hanno acconsentito all’uso da parte di Wired.