GPU NVIDIA H200 con memoria HBM3e da 141 GB e larghezza di banda di 4,8 TB al secondo
La NVIDIA H200 NVL rappresenta l'ultima evoluzione dell'architettura Hopper, progettata specificamente per affrontare i carichi di lavoro più esigenti dei modelli linguistici di grandi dimensioni (LLM) e le attività di intelligenza artificiale generativa. Essendo la prima GPU dotata di memoria HBM3e, la H200 NVL stabilisce un nuovo punto di riferimento per le prestazioni dei data center, offrendo una larghezza di banda e una capacità di memoria senza precedenti per accelerare sia l'addestramento che l'inferenza per modelli con centinaia di miliardi di parametri.
Questa soluzione basata su PCIe porta la potenza degli acceleratori AI più avanzati di NVIDIA nell'infrastruttura server mainstream, offrendo un percorso di aggiornamento senza interruzioni per le distribuzioni H100 esistenti.
| Memoria | 141 GB HBM3e |
|---|---|
| Larghezza di banda della memoria | 4,8 TB/s |
| Core CUDA | 14.592 |
| Core Tensor | 456 di quarta generazione |
| Interfaccia | PCIe 5.0 x16 |
| Larghezza di banda NVLink | Fino a 900 GB/s |
| Fattore di forma | Doppio slot, altezza intera con raffreddamento passivo |
| Consumo energetico | 600W tipico (700W di picco) |
- Tecnologia Multi-Instance GPU (MIG) per il partizionamento sicuro in un massimo di sette istanze isolate
- Transformer Engine che offre un addestramento AI fino a 9 volte più veloce per i modelli linguistici di grandi dimensioni
- Supporto per la precisione FP8 che raggiunge fino a 1.979 TFLOPS
- Prestazioni FP64 valutate a 34 TFLOPS
- Ottimizzato per ambienti di data center ottimizzati per rack
La NVIDIA H200 NVL è ideale per l'inferenza AI, le simulazioni HPC, le applicazioni di calcolo scientifico e i carichi di lavoro di intelligenza artificiale generativa più esigenti che richiedono un'eccezionale larghezza di banda della memoria e potenza computazionale.
GPU con memoria hbm3e
,GPU con memoria da 141 GB
,GPU da workstation da 141 GB
-
Xeon Silver Cpu 4510 Server Processor con 12 core DDR5 Memory Support 150W TDP
Intel Xeon Silver 4510: CPU server a 12 core con turbo da 4,1 GHz, memoria DDR5, PCIe 5.0 e funzionalità di sicurezza avanzate. Ideale per data center entry-level che richiedono prestazioni affidabili e moderne tecnologie di accelerazione. -
Processore Intel Xeon 6724P con 16 Core, Clock Base di 3,6 GHz e TDP di 210W
Intel Xeon 6724P: processore a 16 core con clock di base da 3,6 GHz, acceleratori integrati (QAT, DLB, DSA, IAA) e PCIe 5.0. Ideale per virtualizzazione, database e applicazioni aziendali con una gestione efficiente dell'alimentazione. -
cpu Intel Xeon 6768P Processore con 64 Core a frequenza base di 2,4 GHz e TDP di 330W
Intel® Xeon® 6768P: processore di punta a 64 core con frequenza di base di 2,4 GHz, TDP da 330 W. Dispone di memoria DDR5, PCIe 5.0 e acceleratori integrati per carichi di lavoro di virtualizzazione AI, HPC e su larga scala.