GPU NVIDIA H200 141 Go HBM3e avec une bande passante de 4,8 To par seconde

Le NVIDIA H200 NVL représente la dernière évolution de l'architecture Hopper, conçue spécifiquement pour répondre aux charges de travail les plus exigeantes des grands modèles de langage (LLM) et aux tâches d'IA générative. En tant que premier GPU doté de mémoire HBM3e, le H200 NVL établit une nouvelle référence en matière de performances des centres de données, offrant une bande passante et une capacité mémoire sans précédent pour accélérer l'entraînement et l'inférence des modèles comportant des centaines de milliards de paramètres.

Cette solution basée sur PCIe apporte la puissance des accélérateurs d'IA les plus avancés de NVIDIA à l'infrastructure serveur grand public, offrant une voie de mise à niveau transparente pour les déploiements H100 existants.

• Technologie Multi-Instance GPU (MIG) pour un partitionnement sécurisé en jusqu'à sept instances isolées
• Transformer Engine offrant un entraînement IA jusqu'à 9 fois plus rapide pour les grands modèles de langage
• Prise en charge de la précision FP8 atteignant jusqu'à 1 979 TFLOPS
• Performances FP64 évaluées à 34 TFLOPS
• Optimisé pour les environnements de centres de données optimisés pour les racks

Le NVIDIA H200 NVL est idéalement adapté à l'inférence IA, aux simulations HPC, aux applications de calcul scientifique et aux charges de travail d'IA générative les plus exigeantes nécessitant une bande passante mémoire et une puissance de calcul exceptionnelles.