Seleziona una pagina

da Hardware Upgrade :

Dopo aver annunciato che il Processore Universale Prodigy debutterà entro l’anno (dopo anni di promesse e ritardi), Tachyum ha diffuso un white paper nel quale parla di “Prodigy ATX Platform“, un sistema che “democratizzerà l’IA”.

Il sistema, a partire da 5000 dollari, per ora non è altro che la foto di un case bianco, ma Tachyum ha illustrato quelle che saranno le sue caratteristiche tecniche e le potenzialità.

Il sistema single-socket ruota attorno a un Processore Universale Prodigy con 48 o 96 core, capace di lavorare fino a 5,7 GHz con 8 controller di memoria DDR5 attivi (la versione da 192 dovrebbe averne 16). Accanto vi sono 16 slot DIMM per moduli DDR5-6400 da 64 GB (2 DIMM per canale), ma nel Prodigy ATX Platform da 5000 dollari la memoria installata sarà solo pari a 256 GB.

La piattaforma è dotata di 3 slot PCI Express 5.0, uno slot x16 a 16 linee e due slot e 2 x16 con 8 linee. Ci sono anche 3 slot M.2 NVMe 2280 con interfaccia PCIe 5.0 e sei porte SATA. Oltre al connettore ATX a 24 pin, sulla scheda madre sono presenti anche quattro connettori ATX a 8 pin. Il tutto è accompagnato da un alimentatore da 1200W.

Nel suo documento, Tachyum parla di come gestirà la propria offerta: ad esempio, prevede di offrire soluzioni con 96 core senza creare un die ad hoc, ma suddividendo il 192 core in due istanze. “La piattaforma beneficia dell’esclusiva soluzione “half die” di Prodigy che consente a un dispositivo completo da 192 core di funzionare come due dispositivi separati da 96 core. Questa architettura fornisce a Tachyum una maggiore resa per i dispositivi a 96 core, riducendo i costi della piattaforma e contribuendo a renderla ancora più conveniente”.

Quanto alle prestazioni, Tachyum si concentra sugli scenari in cui la memoria gioca il ruolo fondamentale. Stando a quanto racconta, un sistema Prodigy con 192 core e 1 Terabyte di memoria, grazie al proprio formato dati (TAI a 2 bit e TAI a 4 bit), ottimizzato per le applicazioni AI, sarebbe in grado di gestire un modello ChatGPT 4 con 1,7 trilioni (migliaia di miliardi di parametri) come 52 GPU NVIDIA H100, acceleratori che costano e consumano molto di più.

Anche nel caso di una Prodigy ATX Platform con 96 o 48 core dovrebbe essere possibile addestrare un’istanza ChatGPT, cosa non è possibile con un singolo acceleratore H100. Una piattaforma Tachyum, inoltre, può gestire 31 istanze Llama2 mentre i tipici sistemi x86 con un acceleratore H100 dovrebbero essere in grado di eseguirne solo una. Insomma, tante e nuove belle parole e promesse da Tachyum, ma bisognerà aspettare per vedere se si concretizzeranno in un prodotto con premesse a tratti rivoluzionarie.

Source link