NVIDIA H200 141GB HBM3e Hafıza GPU saniyede 4.8 TB bant genişliği
NVIDIA H200 NVL, Hopper mimarisinin en son evrimini temsil eder ve özellikle en zorlu büyük dil modeli (LLM) iş yüklerini ve jeneratif AI görevlerini ele almak için tasarlanmıştır.HBM3e belleğine sahip ilk GPU olarak, H200 NVL veri merkezi performansı için yeni bir referans oluşturur.Yüzlerce milyar parametresi olan modeller için hem eğitim hem de çıkarım hızlandırmak için benzeri görülmemiş hafıza bant genişliği ve kapasitesi sunmak.
Bu PCIe tabanlı çözüm, NVIDIA'nın en gelişmiş AI hızlandırıcılarının gücünü ana akım sunucu altyapısına getiriyor ve mevcut H100 dağıtımları için sorunsuz bir yükseltme yolu sunuyor.
| Hafıza | 141 GB HBM3e |
|---|---|
| Hafıza bant genişliği | 4.8 TB/s |
| CUDA çekirdekleri | 14,592 |
| Tensor çekirdekleri | 456 dördüncü nesil |
| Arayüz | PCIe 5.0 x16 |
| NVLink bant genişliği | 900 GB/s'ye kadar |
| Form Faktörü | Çift yuva, pasif soğutma ile tam yüksekliğe |
| Güç tüketimi | 600W tipik (700W zirve) |
- Çoklu Örnekli GPU (MIG) teknolojisi, yedi ayrı örneğe güvenli bölünme için
- Transformer Engine, büyük dil modelleri için 9 kat daha hızlı yapay zeka eğitimi sunuyor
- FP8 doğruluk desteği 1.979 TFLOPS'e kadar
- FP64 performansı 34 TFLOPS
- Rack-optimizli veri merkezi ortamları için optimize edilmiş
NVIDIA H200 NVL, yapay zeka çıkarımı, HPC simülasyonları, bilimsel bilgisayar uygulamaları,ve olağanüstü hafıza bant genişliği ve hesaplama gücünü gerektiren en zorlu üreten AI iş yükleri.
Hbm3e hafıza GPU'su
,141GB hafıza GPU
,141GB iş istasyonu GPU
-
Intel Xeon Platinum 8458P Sunucu İşlemcisi, 44 Çekirdek 88 İş Parçacığı 350 W TDP
Intel Xeon Platinum 8458P İşlemci Intel Xeon Platinum 8458P, 4. Nesil Xeon Ölçeklenebilir işlemci ailesinin (kod adı Sapphire Rapids) yüksek performanslı bir sunucu işlemcisidir. Intel 7 süreci üzerine inşa edilen bu işlemci, son derece yüksek çekirdek sayısı, devasa önbellek ve lider I/O yetenekler... -
3,6 GHz Temel Frekanslı DDR5 Destekli 16 Çekirdekli Xeon Gold 6544Y Sunucu İşlemcisi
Xeon Gold 6544Y: Yüksek frekanslı kurumsal iş yükleri, veritabanları ve işlemsel uygulamalar için optimize edilmiş, 4,1 GHz turboya sahip 16 çekirdekli sunucu CPU'su. DDR5 bellek, PCIe 5.0 ve gelişmiş güvenlik teknolojilerine sahiptir. -
12 Çekirdekli 4.1 GHz Turbo ve 150W TDP'ye Sahip Intel Xeon 6505P İşlemci
Intel Xeon 6505P: 12 çekirdek, 4,1 GHz turbo, 48 MB önbellek. Dengeli performans için PCIe 5.0, DDR5 ECC bellek ve 150 W TDP ile sunucular, depolama ve uç bilişim için idealdir.