NVIDIA H200 141GB HBM3e GPU de memoria con 4,8 TB por segundo Ancho de banda
El NVIDIA H200 NVL representa la última evolución de la arquitectura Hopper, diseñada específicamente para abordar las cargas de trabajo de modelo de lenguaje grande (LLM) más exigentes y las tareas de IA generativa.Como la primera GPU con memoria HBM3e, el H200 NVL establece un nuevo punto de referencia para el rendimiento del centro de datos,Proporcionando un ancho de banda de memoria sin precedentes y capacidad para acelerar tanto el entrenamiento como la inferencia para modelos con cientos de miles de millones de parámetros.
Esta solución basada en PCIe aporta el poder de los aceleradores de IA más avanzados de NVIDIA a la infraestructura de servidores convencional, ofreciendo una vía de actualización perfecta para las implementaciones existentes de H100.
| Memoria | 141 GB HBM3e |
|---|---|
| Ancho de banda de la memoria | 4.8 TB/s |
| Núcleos de CUDA | 14,592 |
| Núcleos de tensores | 456 de cuarta generación |
| Interfaz | Se trata de un sistema de control de velocidad. |
| Ancho de banda NVLink | Hasta 900 GB/s |
| Factor de forma | De doble ranura, de altura completa con refrigeración pasiva |
| Consumo de energía | 600 W típico (700 W máximo) |
- Tecnología de GPU de múltiples instancias (MIG) para la partición segura en hasta siete instancias aisladas
- Transformer Engine ofrece hasta 9 veces más rápido entrenamiento de IA para modelos de lenguaje grandes
- FP8 soporte de precisión de hasta 1.979 TFLOPS
- Rendimiento nominal FP64 a 34 TFLOPS
- Optimizado para entornos de centros de datos optimizados para racks
El NVIDIA H200 NVL es ideal para inferencias de IA, simulaciones de HPC, aplicaciones de computación científica,y las cargas de trabajo de IA generativa más exigentes que requieren un ancho de banda de memoria excepcional y potencia computacional.
GPU de memoria hbm3e
,GPU de memoria de 141 GB
,GPU de estación de trabajo de 141 GB
-
Procesador AMD EPYC 9224 con 24 núcleos, arquitectura Zen 4 y TDP de 200W
AMD EPYC 9224: CPU 'Zen 4' de 24 núcleos con aumento de 3,7 GHz, 128 carriles PCIe 5.0 y compatibilidad con DDR5. El TDP optimizado de 200 W ofrece un rendimiento superior por vatio para servidores, virtualización y aplicaciones empresariales. -
3.2 GHz Reloj base 360W TDP 9555 Amd Procesador de servidor Epyc 64 núcleos
AMD EPYC™ 9555: procesador de servidor de 64 núcleos con reloj base de 3,2 GHz y TDP de 360 W. Cuenta con 128 carriles PCIe 5.0 y compatibilidad con memoria DDR5. Ideal para cargas de trabajo de análisis de datos, empresariales y de nube con un rendimiento óptimo por vatio. -
4.2 GHz Reloj base 512 MB L3 Cache 16 núcleos 32 hilos CPU AMD EPYCTM 9175F Procesador
AMD EPYC 9175F: procesador de 16 núcleos con reloj base de 4,2 GHz, aumento de 5,0 GHz y enorme caché L3 de 512 MB. Optimizado para obtener el máximo rendimiento de un solo subproceso en cargas de trabajo de EDA, comercio financiero y análisis en tiempo real.