“Claude Mythos rappresenta un salto particolarmente grande“, ha dichiarato martedì l’amministratore delegato di Anthropic Dario Amodei, in un video di lancio di Project glasswing. “Non l’abbiamo addestrato specificamente perché fosse bravo in ambito cyber. L’abbiamo addestrato perché se la cavasse con il codice, ma come effetto collaterale è bravo anche in campo cyber“. “Noi e altri svilupperemo modelli più potenti. Quindi abbiamo bisogno di un piano per rispondere a tutto questo“, ha aggiunto Amodei.

Graham fa notare che oltre a scoprire vulnerabilità informatiche, Mythos preview è capace di sviluppare exploit avanzati, effettuare penetration test, verificare la sicurezza degli endpoint, andare a caccia di configurazioni errate all’interno di un sistema e valutare i cosiddetti binari senza accedere al codice sorgente di un software.

Limitando inizialmente l’accesso al modello a un gruppo selezionato di aziende, continua Graham, Anthropic si è ispirata ai principi della divulgazione coordinata delle vulnerabilità, il processo che dà agli sviluppatori il tempo di correggere un bug prima che diventi di dominio pubblico.

“Abbiamo visto Mythos preview realizzare cose che sarebbe in grado di fare un ricercatore di sicurezza esperto“, afferma il responsabile del red teaming di Anthropic. “Le implicazioni sul modo in cui capacità come questa dovrebbero essere distribuite sono molto serie. Se non facciamo attenzione, potrebbe diventare un importante acceleratore per gli aggressori“.

Il futuro della cybersecurity

I membri di Project glasswing, tra cui figurano alcuni concorrenti di Anthropic, hanno evidenziato la volontà di collaborare allo sforzo. “Google è lieta di vedere la nascita di questa iniziativa di cybersecurity trasversale al settore“, ha affermato in un comunicato Heather Adkins, vicepresidente di Google per l’ingegneria della sicurezza. “Da tempo crediamo che l’intelligenza artificiale ponga nuove sfide e apra nuove opportunità nella difesa informatica”.

Anche le realtà che si occupano della manutenzione di componenti dell’infrastruttura di internet e le aziende che sviluppano piattaforme tecnologiche sembrano entusiaste del progetto, a maggior ragione considerando che – come riportato da Anthropic – Mythos preview ha già scoperto migliaia di vulnerabilità critiche, compresi alcuni bug vecchi di decenni che gli esperti si erano ripetutamente fatti sfuggire o avevano trascurato.

Fonte