NVIDIA H200 141GB HBM3e GPU de memoria con 4,8 TB por segundo Ancho de banda

El NVIDIA H200 NVL representa la última evolución de la arquitectura Hopper, diseñada específicamente para abordar las cargas de trabajo de modelo de lenguaje grande (LLM) más exigentes y las tareas de IA generativa.Como la primera GPU con memoria HBM3e, el H200 NVL establece un nuevo punto de referencia para el rendimiento del centro de datos,Proporcionando un ancho de banda de memoria sin precedentes y capacidad para acelerar tanto el entrenamiento como la inferencia para modelos con cientos de miles de millones de parámetros.

Esta solución basada en PCIe aporta el poder de los aceleradores de IA más avanzados de NVIDIA a la infraestructura de servidores convencional, ofreciendo una vía de actualización perfecta para las implementaciones existentes de H100.

• Tecnología de GPU de múltiples instancias (MIG) para la partición segura en hasta siete instancias aisladas
• Transformer Engine ofrece hasta 9 veces más rápido entrenamiento de IA para modelos de lenguaje grandes
• FP8 soporte de precisión de hasta 1.979 TFLOPS
• Rendimiento nominal FP64 a 34 TFLOPS
• Optimizado para entornos de centros de datos optimizados para racks

El NVIDIA H200 NVL es ideal para inferencias de IA, simulaciones de HPC, aplicaciones de computación científica,y las cargas de trabajo de IA generativa más exigentes que requieren un ancho de banda de memoria excepcional y potencia computacional.