NVIDIA H200 141GB HBM3e GPU pamięci z 4,8 TB na sekundę Przepustowość

NVIDIA H200 NVL stanowi najnowszą ewolucję architektury Hopper, zaprojektowaną specjalnie do obsługi najbardziej wymagających obciążeń związanych z dużymi modelami językowymi (LLM) i zadaniami generatywnej sztucznej inteligencji. Jako pierwszy procesor graficzny wyposażony w pamięć HBM3e, H200 NVL ustanawia nowy punkt odniesienia dla wydajności centrów danych, zapewniając bezprecedensową przepustowość pamięci i pojemność w celu przyspieszenia zarówno treningu, jak i wnioskowania dla modeli z setkami miliardów parametrów.

To rozwiązanie oparte na PCIe zapewnia moc najbardziej zaawansowanych akceleratorów AI firmy NVIDIA w standardowej infrastrukturze serwerowej, oferując płynną ścieżkę aktualizacji dla istniejących wdrożeń H100.

• Technologia Multi-Instance GPU (MIG) do bezpiecznego podziału na maksymalnie siedem izolowanych instancji
• Transformer Engine zapewniający do 9x szybszy trening AI dla dużych modeli językowych
• Obsługa precyzji FP8 osiągająca do 1 979 TFLOPS
• Wydajność FP64 oceniana na 34 TFLOPS
• Zoptymalizowany do środowisk centrów danych zoptymalizowanych pod kątem montażu w szafach

NVIDIA H200 NVL doskonale nadaje się do wnioskowania AI, symulacji HPC, zastosowań obliczeniowych naukowych i najbardziej wymagających obciążeń generatywnej sztucznej inteligencji wymagających wyjątkowej przepustowości pamięci i mocy obliczeniowej.