GPU NVIDIA H200 con memoria HBM3e da 141 GB e larghezza di banda di 4,8 TB al secondo

La NVIDIA H200 NVL rappresenta l'ultima evoluzione dell'architettura Hopper, progettata specificamente per affrontare i carichi di lavoro più esigenti dei modelli linguistici di grandi dimensioni (LLM) e le attività di intelligenza artificiale generativa. Essendo la prima GPU dotata di memoria HBM3e, la H200 NVL stabilisce un nuovo punto di riferimento per le prestazioni dei data center, offrendo una larghezza di banda e una capacità di memoria senza precedenti per accelerare sia l'addestramento che l'inferenza per modelli con centinaia di miliardi di parametri.

Questa soluzione basata su PCIe porta la potenza degli acceleratori AI più avanzati di NVIDIA nell'infrastruttura server mainstream, offrendo un percorso di aggiornamento senza interruzioni per le distribuzioni H100 esistenti.

• Tecnologia Multi-Instance GPU (MIG) per il partizionamento sicuro in un massimo di sette istanze isolate
• Transformer Engine che offre un addestramento AI fino a 9 volte più veloce per i modelli linguistici di grandi dimensioni
• Supporto per la precisione FP8 che raggiunge fino a 1.979 TFLOPS
• Prestazioni FP64 valutate a 34 TFLOPS
• Ottimizzato per ambienti di data center ottimizzati per rack

La NVIDIA H200 NVL è ideale per l'inferenza AI, le simulazioni HPC, le applicazioni di calcolo scientifico e i carichi di lavoro di intelligenza artificiale generativa più esigenti che richiedono un'eccezionale larghezza di banda della memoria e potenza computazionale.