Manca ancora pochissimo alla disponibilità di watsonx.governance, la nuova soluzione di IBM per supportare aziende ed enti pubblici a sfruttare al meglio l’IA generativa, riducendo il rischio di bias e garantendo sicurezza e trasparenza nell’utilizzo dei LLM e dei dati usati per il loro addestramento.

Ridurre i rischi dell’IA con watsonx.governance

L’IA generativa è una tecnologia per molti versi formidabile, tanto che ha visto un tasso di adozione rapidissimo, sia fra le aziende, sia fra i privati. Ma si tratta ancora di una tecnologia giovane, con parecchie limitazioni. A partire dai set di dati utilizzati per addestrare i modelli: queste informazioni sono state ottenute prevalentemente facendo scraping dei contenuti online con tutti i problemi del caso. La privacy, prima di tutto, ma non solo. I set usati per il training contengono infatti molti dati errati, che si riflettono sull’output generato dalle varie app di IA generativa. 

L’idea di IBM con watsonx.governance è proprio quella di ridurre questi rischi, offrendo a imprese e PA gli strumenti necessari per gestire, monitorare e governare i modelli, consentendo anche di integrare un mix di LLM provenienti da diversi fornitori di tecnologia e comunità open source.

La soluzione di IBM aiuta i clienti a garantire la conformità con le norme vigenti nei vari Paesi, occupandosi anche di generare le policy e i flussi di lavoro aziendali. Include anche strumenti per monitorare i flussi di lavoro che sfruttano l’IA e di gestire i modelli, identificando e correggendo in automatico eventuali bias, il tutto con un approccio del tipo no code. 

I casi d’uso sono svariati. Si va dalla gestione del rischio di credito, più precisa grazie all’eliminazione di potenziali bias, alla gestione della catena di approvvigionamento, dove l’IA potrà effettuare stime sulla domanda futura. Nell’ambito delle HR, la soluzione di IBM può aiutare a rendere il processo di selezione dei canditati più trasparente, riducendo i potenziali pregiudizi. Infine, IBM indica anche che in ambito sanitario l’adozione di watsonx.governance può migliorare il processo decisionale dei medici, che potranno suggerire trattamenti più accurati e ridurre gli errori dovuti a diagnosi errate. 

“I consigli di amministrazione e i CEO delle aziende stanno cercando di raccogliere i frutti derivanti dall’utilizzo dei più potenti modelli di intelligenza artificiale, ma si trovano a dover far fronte ai rischi dovuti alla mancanza di trasparenza e dall’incapacità di gestire tali modelli”, spiega Kareem Yusuf, Ph.D, Senior Vice President, Product Management and Growth di IBM Software. “Watsonx.governance è una piattaforma con un’unica interfaccia per le aziende che hanno difficoltà a integrare e gestire LLM e modelli di ML, che fornisce gli strumenti necessari per automatizzare i processi di governance dell’AI, monitorare i modelli e intraprendere azioni correttive, il tutto con una maggiore visibilità. La sua capacità di tradurre le normative in policy applicabili diventerà sempre più essenziale per le imprese, man mano che le nuove normative sull’AI verranno introdotte in tutto il mondo“.

Il segretario al Commercio USA, Gina Raimondo, vuole impedire alla Cina di recuperare il terreno nel settore dei semiconduttori, ma per farlo ha bisogno di più soldi dal Congresso. “Non possiamo lasciare che la Cina riceva questi chip. Punto“, ha dichiarato al Reagan National Defense Forum a Simi Valley, in California, riferendosi alle soluzioni per l’intelligenza artificiale. Lo riporta il sito Fortune. “Negheremo loro la nostra tecnologia più all’avanguardia“, ha aggiunto.

Il Bureau of Industry and Security (BIS) del Dipartimento del Commercio, colui che gestisce i controlli sulle esportazioni di tecnologia USA, negli ultimi due anni ha posto paletti sempre più stringenti per NVIDIA, AMD, Intel e le altre realtà del mondo dell’IA che vogliono intrattenere rapporti con la Cina. Washington si è sempre appellata a questioni di sicurezza nazionale, ma è chiaro che oltre ad evitare che Pechino potenzi il comparto militare vuole impedire di avere un ulteriore competitor sulla scena hi-tech.

“Ho un budget di 200 milioni di dollari. È come il costo di alcuni aerei da combattimento. Andiamo… Se siamo seri, dobbiamo finanziare questa operazione come avrebbe bisogno di essere finanziata“.

Raimondo ha poi lanciato una stoccata a NVIDIA e quelle società che cercano di aggirare le limitazioni alle esportazioni creando prodotti ad hoc per la Cina che si attengono, per un pelo, ai limiti stabiliti. “So che ci sono CEO di società di chip tra il pubblico che si sono un po’ irritati con me quando l’ho fatto perché state perdendo fatturato“, ha detto. “Così è la vita. Proteggere la nostra sicurezza nazionale è più importante delle entrate a breve termine“.

“Se si riprogetta un chip attorno a un particolare livello e questo consente loro di svolgere l’intelligenza artificiale, interverrò per controllarlo il giorno successivo“, ha detto Raimondo.

Jensen Huang, CEO di NVIDIA, ha fatto recentemente trasparire la difficoltà nel far combaciare affari e ragion di Stato. “Siamo un’azienda creata per fare affari e quindi cerchiamo di farli con tutti quelli che possiamo. D’altra parte, la nostra sicurezza nazionale conta e la nostra competitività nazionale conta“.

Dopo le decisioni di inasprire i limiti sulle importazioni, cosa che ha impedito a NVIDIA di continuare a commercializzare A800 e H800 in Cina, la società guidata da Huang ha ideato tre prodotti alternativi che rientrano nella nuova normativa. Inoltre, dopo lo stop alla vendita della RTX 4090, NVIDIA starebbe confezionando una RTX 4090D dedicata al grande Paese asiatico.

Secondo Raimondo, il dialogo con la Cina può servire a stabilizzare i legami tra i due Paesi, ma “in materia di sicurezza nazionale, dobbiamo tenere gli occhi ben aperti riguardo la minaccia. Si tratta della più grande minaccia che abbiamo mai avuto e dobbiamo affrontare il momento“.