GPU NVIDIA H200 141 Go HBM3e avec une bande passante de 4,8 To par seconde
Le NVIDIA H200 NVL représente la dernière évolution de l'architecture Hopper, conçue spécifiquement pour répondre aux charges de travail les plus exigeantes des grands modèles de langage (LLM) et aux tâches d'IA générative. En tant que premier GPU doté de mémoire HBM3e, le H200 NVL établit une nouvelle référence en matière de performances des centres de données, offrant une bande passante et une capacité mémoire sans précédent pour accélérer l'entraînement et l'inférence des modèles comportant des centaines de milliards de paramètres.
Cette solution basée sur PCIe apporte la puissance des accélérateurs d'IA les plus avancés de NVIDIA à l'infrastructure serveur grand public, offrant une voie de mise à niveau transparente pour les déploiements H100 existants.
| Mémoire | 141 Go HBM3e |
|---|---|
| Bande passante mémoire | 4,8 To/s |
| Cœurs CUDA | 14 592 |
| Cœurs Tensor | 456 de quatrième génération |
| Interface | PCIe 5.0 x16 |
| Bande passante NVLink | Jusqu'à 900 Go/s |
| Facteur de forme | Double slot, pleine hauteur avec refroidissement passif |
| Consommation électrique | 600 W typique (700 W en pointe) |
- Technologie Multi-Instance GPU (MIG) pour un partitionnement sécurisé en jusqu'à sept instances isolées
- Transformer Engine offrant un entraînement IA jusqu'à 9 fois plus rapide pour les grands modèles de langage
- Prise en charge de la précision FP8 atteignant jusqu'à 1 979 TFLOPS
- Performances FP64 évaluées à 34 TFLOPS
- Optimisé pour les environnements de centres de données optimisés pour les racks
Le NVIDIA H200 NVL est idéalement adapté à l'inférence IA, aux simulations HPC, aux applications de calcul scientifique et aux charges de travail d'IA générative les plus exigeantes nécessitant une bande passante mémoire et une puissance de calcul exceptionnelles.
GPU à mémoire hbm3e
,GPU à mémoire 141 Go
,GPU de station de travail 141 Go
-
Processeur Intel Xeon 6724P avec 16 cœurs 3,6 GHz base clock et 210W TDP
Intel Xeon 6724P : processeur 16 cœurs avec horloge de base de 3,6 GHz, accélérateurs intégrés (QAT, DLB, DSA, IAA) et PCIe 5.0. Idéal pour la virtualisation, les bases de données et les applications d'entreprise avec une gestion efficace de l'énergie. -
Processeur serveur Intel Xeon Silver 4516Y+ avec 24 cœurs DDR5 4400 MT/s
Intel Xeon Silver 4516Y+ : 24 cœurs, 48 threads, turbo 3,7 GHz. Comprend une mémoire DDR5, PCIe 5.0, une accélération avancée de l'IA (AMX/DL Boost) et une sécurité d'entreprise (TDX/TME). Idéal pour les serveurs à double socket, la virtualisation et les charges de travail des centres de données. -
Processeur Intel Xeon Gold 6542Y avec 24 cœurs / 48 fils, 60 Mo de cache intelligent
Intel Xeon Gold 6542Y : processeur de serveur 24 cœurs avec turbo 4,1 GHz, 60 Mo de cache et PCIe 5.0. Comprend Intel AMX pour l'accélération de l'IA, une technologie de sécurité avancée et prend en charge jusqu'à 4 To de DDR5. Idéal pour les centres de données, la virtualisation et les charges de travail HPC.