Da Punto-Informatico.it :
L’amministrazione Biden ha stabilito che i modelli IA generativi dovranno essere valutati da esperti indipendenti. Questo importante compito è stato assegnato alla comunità di hacker AI Village che, durante la conferenza DEF CON 31 di Las Vegas (10-13 agosto), esaminerà le tecnologie di varie aziende per trovare bug e altri difetti dell’intelligenza artificiale.
Migliaia di hacker sfidano l’IA
AI Village, fondata da Sven Cattell, è una comunità di hacker e scienziati che studiano l’intelligenza artificiale per individuare usi e abusi in termini di sicurezza e privacy. Dopo aver ricevuto l’input dalla Casa Bianca, i ricercatori analizzeranno i modelli di Anthropic, Google, Hugging Face, NVIDIA, OpenAI e Stability AI, sfruttando una piattaforma sviluppata da Scale AI.
Nel comunicato stampa sono evidenziati i vantaggi dei cosiddetti LLM (Large Langugae Model), ma anche i rischi derivanti dalla tecnologia (allucinazioni, bias, jailbreak) che possono diventare un pericolo per la sicurezza e la privacy. Durante il DEF CON di agosto, migliaia di hacker studieranno i modelli delle suddette aziende attraverso un accesso a tempo. Verrà assegnato un punteggio CTF (Capture The Flag) e chi raggiungerà il punteggio maggiore riceverà come premio una scheda video NVIDIA di fascia alta.
Tra i partecipanti della conferenza DEF CON ci saranno anche centinaia di studenti. L’obiettivo è comprendere il funzionamento dei modelli IA e migliorare le competenze sulla tecnologia. Il DEF CON 29 del 2021 ha ospitato il primo contest relativo al machine learning. Gli hacker hanno esaminato l’algoritmo di cropping di Twitter per individuare il bug che preferiva immagini di donne e di persone con la pelle chiara.
Fonte Punto Informatico Source link