NVIDIA H200 141GB HBM3e Speicher GPU mit 4,8 TB pro Sekunde Bandbreite

Die NVIDIA H200 NVL stellt die neueste Weiterentwicklung der Hopper-Architektur dar, die speziell für die anspruchsvollsten Workloads großer Sprachmodelle (LLMs) und generative KI-Aufgaben entwickelt wurde. Als erste GPU mit HBM3e-Speicher setzt die H200 NVL einen neuen Maßstab für die Leistung von Rechenzentren und liefert eine beispiellose Speicherbandbreite und -kapazität, um sowohl das Training als auch die Inferenz für Modelle mit Hunderten von Milliarden Parametern zu beschleunigen.

Diese PCIe-basierte Lösung bringt die Leistung der fortschrittlichsten KI-Beschleuniger von NVIDIA in die Mainstream-Serverinfrastruktur und bietet einen nahtlosen Upgrade-Pfad für bestehende H100-Implementierungen.

• Multi-Instance GPU (MIG)-Technologie zur sicheren Partitionierung in bis zu sieben isolierte Instanzen
• Transformer Engine für bis zu 9x schnelleres KI-Training für große Sprachmodelle
• FP8-Präzisionsunterstützung mit bis zu 1.979 TFLOPS
• FP64-Leistung mit 34 TFLOPS bewertet
• Optimiert für rackoptimierte Rechenzentrumsumgebungen

Die NVIDIA H200 NVL eignet sich ideal für KI-Inferenz, HPC-Simulationen, wissenschaftliche Computeranwendungen und die anspruchsvollsten generativen KI-Workloads, die eine außergewöhnliche Speicherbandbreite und Rechenleistung erfordern.