NVIDIA H200 141GB HBM3e GPU de memória com 4,8 TB por segundo Largura de banda

A NVIDIA H200 NVL representa a mais recente evolução da arquitetura Hopper, projetada especificamente para lidar com as cargas de trabalho mais exigentes de modelos de linguagem grandes (LLMs) e tarefas de IA generativa. Sendo a primeira GPU a apresentar memória HBM3e, a H200 NVL estabelece um novo padrão de desempenho para data centers, oferecendo largura de banda e capacidade de memória sem precedentes para acelerar tanto o treinamento quanto a inferência de modelos com centenas de bilhões de parâmetros.

Esta solução baseada em PCIe traz o poder dos aceleradores de IA mais avançados da NVIDIA para a infraestrutura de servidores mainstream, oferecendo um caminho de atualização contínuo para implantações H100 existentes.

• Tecnologia Multi-Instance GPU (MIG) para particionamento seguro em até sete instâncias isoladas
• Transformer Engine oferecendo treinamento de IA até 9x mais rápido para modelos de linguagem grandes
• Suporte de precisão FP8 atingindo até 1.979 TFLOPS
• Desempenho FP64 classificado em 34 TFLOPS
• Otimizado para ambientes de data center otimizados para rack

A NVIDIA H200 NVL é ideal para inferência de IA, simulações de HPC, aplicações de computação científica e as cargas de trabalho de IA generativa mais exigentes que requerem largura de banda de memória e poder computacional excepcionais.