NVIDIA H200 141GB HBM3e Hafıza GPU saniyede 4.8 TB bant genişliği
NVIDIA H200 NVL, Hopper mimarisinin en son evrimini temsil eder ve özellikle en zorlu büyük dil modeli (LLM) iş yüklerini ve jeneratif AI görevlerini ele almak için tasarlanmıştır.HBM3e belleğine sahip ilk GPU olarak, H200 NVL veri merkezi performansı için yeni bir referans oluşturur.Yüzlerce milyar parametresi olan modeller için hem eğitim hem de çıkarım hızlandırmak için benzeri görülmemiş hafıza bant genişliği ve kapasitesi sunmak.
Bu PCIe tabanlı çözüm, NVIDIA'nın en gelişmiş AI hızlandırıcılarının gücünü ana akım sunucu altyapısına getiriyor ve mevcut H100 dağıtımları için sorunsuz bir yükseltme yolu sunuyor.
| Hafıza | 141 GB HBM3e |
|---|---|
| Hafıza bant genişliği | 4.8 TB/s |
| CUDA çekirdekleri | 14,592 |
| Tensor çekirdekleri | 456 dördüncü nesil |
| Arayüz | PCIe 5.0 x16 |
| NVLink bant genişliği | 900 GB/s'ye kadar |
| Form Faktörü | Çift yuva, pasif soğutma ile tam yüksekliğe |
| Güç tüketimi | 600W tipik (700W zirve) |
- Çoklu Örnekli GPU (MIG) teknolojisi, yedi ayrı örneğe güvenli bölünme için
- Transformer Engine, büyük dil modelleri için 9 kat daha hızlı yapay zeka eğitimi sunuyor
- FP8 doğruluk desteği 1.979 TFLOPS'e kadar
- FP64 performansı 34 TFLOPS
- Rack-optimizli veri merkezi ortamları için optimize edilmiş
NVIDIA H200 NVL, yapay zeka çıkarımı, HPC simülasyonları, bilimsel bilgisayar uygulamaları,ve olağanüstü hafıza bant genişliği ve hesaplama gücünü gerektiren en zorlu üreten AI iş yükleri.
Hbm3e hafıza GPU'su
,141GB hafıza GPU
,141GB iş istasyonu GPU
-
3,6 GHz Temel Frekanslı DDR5 Destekli 16 Çekirdekli Xeon Gold 6544Y Sunucu İşlemcisi
Xeon Gold 6544Y: Yüksek frekanslı kurumsal iş yükleri, veritabanları ve işlemsel uygulamalar için optimize edilmiş, 4,1 GHz turboya sahip 16 çekirdekli sunucu CPU'su. DDR5 bellek, PCIe 5.0 ve gelişmiş güvenlik teknolojilerine sahiptir. -
Xeon Gold 5415+ 8 çekirdekli 16 iplik DDR5 bellek desteği ile sunucu işlemcisi
Xeon Gold 5415+ sunucu işlemcisi: 8 çekirdek, 16 iş parçacığı, 4,1 GHz turbo. DDR5 bellek, PCIe 5.0, gelişmiş güvenlik ve yapay zeka hızlandırma özelliklerine sahiptir. Kurumsal, bulut ve sanallaştırma iş yükleri için idealdir. -
Xeon Gold 6448Y Sunucu İşlemcisi 32 çekirdekli 64 iplik 4.10 GHz Turbo'ya kadar
Xeon Gold 6448Y: 4,1 GHz turbo, 60 MB önbellek ve 225 W TDP'ye sahip 32 çekirdekli sunucu işlemcisi. AMX/DL Boost aracılığıyla PCIe 5.0, DDR5 bellek ve AI hızlandırma özelliklerine sahiptir. Sanallaştırma, bulut ve veri yoğunluklu iş yükleri için idealdir.