NVIDIA H200 141GB HBM3e GPU de memoria con 4,8 TB por segundo Ancho de banda

Resumen del producto
GPU NVIDIA H200: memoria HBM3e de 141 GB, ancho de banda de 4,8 TB/s. Ideal para modelos de IA grandes con 14.592 núcleos CUDA, PCIe 5.0 y 600 W de potencia. Incluye Transformer Engine para un entrenamiento 9 veces más rápido.
Propiedades básicas
Nombre de la Marca: NVIDIA
Número de modelo: 900-21010-0040-000
Propiedades comerciales
Cantidad mínima de pedido: 10
Precio: 25000USD
Condiciones de pago: T/T
Descripción de producto
NVIDIA H200 141GB GPU PCIe
Resumen del producto

El NVIDIA H200 NVL representa la última evolución de la arquitectura Hopper, diseñada específicamente para abordar las cargas de trabajo de modelo de lenguaje grande (LLM) más exigentes y las tareas de IA generativa.Como la primera GPU con memoria HBM3e, el H200 NVL establece un nuevo punto de referencia para el rendimiento del centro de datos,Proporcionando un ancho de banda de memoria sin precedentes y capacidad para acelerar tanto el entrenamiento como la inferencia para modelos con cientos de miles de millones de parámetros.

NVIDIA MPN: 900-21010-0040-000 (NVH200NVLTCGPU-KIT) (en inglés)

Esta solución basada en PCIe aporta el poder de los aceleradores de IA más avanzados de NVIDIA a la infraestructura de servidores convencional, ofreciendo una vía de actualización perfecta para las implementaciones existentes de H100.

Especificaciones clave
Memoria 141 GB HBM3e
Ancho de banda de la memoria 4.8 TB/s
Núcleos de CUDA 14,592
Núcleos de tensores 456 de cuarta generación
Interfaz Se trata de un sistema de control de velocidad.
Ancho de banda NVLink Hasta 900 GB/s
Factor de forma De doble ranura, de altura completa con refrigeración pasiva
Consumo de energía 600 W típico (700 W máximo)
Características avanzadas
  • Tecnología de GPU de múltiples instancias (MIG) para la partición segura en hasta siete instancias aisladas
  • Transformer Engine ofrece hasta 9 veces más rápido entrenamiento de IA para modelos de lenguaje grandes
  • FP8 soporte de precisión de hasta 1.979 TFLOPS
  • Rendimiento nominal FP64 a 34 TFLOPS
  • Optimizado para entornos de centros de datos optimizados para racks
Áreas de aplicación

El NVIDIA H200 NVL es ideal para inferencias de IA, simulaciones de HPC, aplicaciones de computación científica,y las cargas de trabajo de IA generativa más exigentes que requieren un ancho de banda de memoria excepcional y potencia computacional.

Detalles del producto
Resaltar:

GPU de memoria hbm3e

,

GPU de memoria de 141 GB

,

GPU de estación de trabajo de 141 GB

Mr. Sales

Sales Department

Productos relacionados
Enviar una consulta