NVIDIA riduce l’AI a misura di scrivania con DGX Spark e Station

NVIDIA ha recentemente presentato due innovativi supercomputer desktop per l’intelligenza artificiale: DGX Spark e DGX Station. Questi sistemi, basati sulla piattaforma Grace Blackwell, promettono di portare la potenza dell’AI direttamente sulle scrivanie di sviluppatori, ricercatori e data scientist.

Il DGX Spark, precedentemente noto come Project DIGITS, è stato progettato per essere il supercomputer AI più piccolo al mondo. Con dimensioni simili a quelle di un Mac Mini, questo dispositivo è alimentato dal GB10 Grace Blackwell Superchip, che combina una GPU Blackwell di quinta generazione con una CPU Arm a 20 core (10 Cortex-X925 e 10 Cortex-A725). Questo chip offre prestazioni fino a 1.000 TOPS (trilioni di operazioni al secondo), rendendolo ideale per eseguire modelli AI di grandi dimensioni localmente, senza necessità di accedere al cloud.

Il DGX Spark include 128 GB di memoria LPDDR5x e opzioni di archiviazione SSD fino a 4 TB. È progettato per supportare modelli AI fino a 200 miliardi di parametri, rendendolo uno strumento potente per la prototipazione e l’ottimizzazione di modelli linguistici di grandi dimensioni (LLM). Il prezzo di partenza è di circa 3.000 dollari, e sarà disponibile in versioni personalizzate da produttori come ASUS, Dell, HP e Lenovo.

Il DGX Station rappresenta un passo avanti in termini di prestazioni. Alimentato dal GB300 Grace Blackwell Ultra Desktop Superchip, questo sistema offre una combinazione di CPU Grace a 72 core e GPU Blackwell Ultra, con una memoria HBM3e fino a 288 GB e memoria LPDDR5x fino a 496 GB. Le prestazioni raggiungono i 20 petaFLOPS, rendendolo adatto per gestire modelli AI ancora più complessi.

Una caratteristica distintiva del DGX Station è la sua capacità di connettersi in rete con altre unità DGX tramite il ConnectX-8 SuperNIC, che supporta velocità di trasferimento fino a 800 Gb/s. Questo sistema è ideale per sviluppatori che lavorano su progetti AI avanzati e richiedono una potenza di calcolo significativa.

L’architettura Grace Blackwell di NVIDIA rappresenta un’evoluzione significativa rispetto alle precedenti architetture come Hopper

CaratteristicaGrace BlackwellHopper
Numero di Transistor208 miliardi80 miliardi
Processo di FabbricazioneTSMC 4NPTSMC 4N
Efficienza EnergeticaFino a 25 volte più efficienteInferiore rispetto a Grace Blackwell
InterconnessioneNVLink 5ª generazione (10 TB/s)NVLink 4ª generazione (900 GB/s)
Engine per i Transformer2ª Generazione, ottimizzata per LLM1ª Generazione, meno avanzata
Applicazioni PrincipaliGenerative AI, modelli LLM, simulazioniCalcolo scientifico e modelli AI tradizionali

Entrambi i sistemi funzionano con il sistema operativo DGX OS, una versione personalizzata di Ubuntu Linux ottimizzata per l’AI. Questo consente agli utenti di sviluppare, testare e distribuire modelli AI localmente o su infrastrutture cloud come il DGX Cloud di NVIDIA.

Con il DGX Spark e il DGX Station, NVIDIA sta ridefinendo il concetto di personal computer per l’AI, offrendo strumenti potenti e accessibili per accelerare l’innovazione in settori come la ricerca e lo sviluppo di applicazioni AI.