Gli agenti AI – i modelli linguistici di grandi dimensioni pensati per eseguire azioni di ogni genere in modo del tutto indipendente – sono davvero in grado di prendere decisioni su larga scala senza il supporto umano? Questo il quesito sollevato da un recente rapporto del Financial Times, secondo cui Amazon Web Services (AWS), la divisione cloud che genera circa il 60% dei profitti operativi della compagnia, negli ultimi mesi avrebbe subito due interruzioni causate proprio dai suoi agenti AI. Un’affermazione che Amazon respinge fortemente, addossando la responsabilità di quanto accaduto a un errore di chi ha utilizzato l’intelligenza artificiale. Eppure, stando al racconto di quattro persone informate dei fatti ascoltate dal FT, lo scorso dicembre un sistema di AWS ha subito un’interruzione di ben 13 ore, dopo che gli ingegneri hanno consentito al tool di coding agentico Kiro AI di apportare modifiche in maniera autonoma.
E in un’occasione specifica l’agente AI ha deciso che la soluzione migliore fosse “eliminare e ricreare l’ambiente”, causando così un blocco prolungato del sistema, che pare aver interessato soprattutto la Cina. Un episodio tutt’altro che isolato, stando a quanto riferito dai dipendenti di Amazon, che hanno lamentato più di un’interruzione causata dai tool AI negli ultimi mesi. “Abbiamo già assistito ad almeno due interruzioni della produzione – ha dichiarato un dipendente di AWS al Financial Times -. Gli ingegneri hanno lasciato che l’agente AI risolvesse un problema senza intervenire. Le interruzioni sono state di lieve entità, ma del tutto prevedibili”. Secondo le fonti vicine alla compagnia, infatti, non solo i tool AI hanno ricevuto un livello di autorizzazione pari a quello degli operatori umani ma, in entrambe le interruzioni, gli ingegneri hanno anche evitato di richiedere l’approvazione di una seconda persona prima di apportare le modifiche suggerite dall’intelligenza artificiale, infrangendo così il protocollo imposto dall’azienda.
La giustificazione di Amazon
In una nota dettagliata, pubblicata sul suo blog ufficiale, Amazon ha fatto chiarezza su quanto riportato dal Financial Times, smentendo quanto riportato dalla rivista. Secondo quanto dichiarato dalla compagnia, infatti, l’interruzione verificatasi a dicembre “è stata un evento estremamente limitato”, che ha interessato il solo servizio AWS Cost Explorer in una delle due regioni della Cina continentale, ma senza “alcun impatto su elaborazione, archiviazione, database, tecnologie di intelligenza artificiale o qualsiasi altro dei centinaia di servizi” gestiti dalla compagnia. Inoltre, come anticipato, Amazon ci ha tenuto a sottolineare che l’interruzione non è dipesa affatto da un errore dei suoi agenti AI, bensì “da un ruolo configurato in modo errato, lo stesso problema che potrebbe verificarsi con qualsiasi strumento di sviluppo (basato sull’intelligenza artificiale o meno) o azione manuale”. Infine, la compagnia si è dimostrata molto categorica nel chiarire che non c’è stata alcuna seconda interruzione oltre quella segnalata a dicembre, sostenendo che “l’affermazione del Financial Times secondo cui un secondo evento avrebbe avuto un impatto su AWS è del tutto falsa”.
