NVIDIA H200 141GB HBM3e Memori GPU dengan 4,8 TB per detik Bandwidth
NVIDIA H200 NVL merupakan evolusi terbaru dari arsitektur Hopper, yang direkayasa khusus untuk menangani beban kerja model bahasa besar (LLM) yang paling menuntut dan tugas AI generatif. Sebagai GPU pertama yang menampilkan memori HBM3e, H200 NVL menetapkan tolok ukur baru untuk kinerja pusat data, memberikan bandwidth memori dan kapasitas yang belum pernah terjadi sebelumnya untuk mempercepat pelatihan dan inferensi untuk model dengan ratusan miliar parameter.
Solusi berbasis PCIe ini menghadirkan kekuatan akselerator AI tercanggih NVIDIA ke infrastruktur server arus utama, menawarkan jalur peningkatan yang mulus untuk penerapan H100 yang sudah ada.
| Memori | 141 GB HBM3e |
|---|---|
| Bandwidth Memori | 4,8 TB/dtk |
| Inti CUDA | 14.592 |
| Inti Tensor | 456 generasi keempat |
| Antarmuka | PCIe 5.0 x16 |
| Bandwidth NVLink | Hingga 900 GB/dtk |
| Faktor Bentuk | Slot ganda, tinggi penuh dengan pendinginan pasif |
| Konsumsi Daya | 600W tipikal (700W puncak) |
- Teknologi Multi-Instance GPU (MIG) untuk partisi aman menjadi hingga tujuh instance terisolasi
- Transformer Engine memberikan pelatihan AI hingga 9x lebih cepat untuk model bahasa besar
- Dukungan presisi FP8 mencapai hingga 1.979 TFLOPS
- Kinerja FP64 dinilai pada 34 TFLOPS
- Dioptimalkan untuk lingkungan pusat data yang dioptimalkan untuk rak
NVIDIA H200 NVL sangat cocok untuk inferensi AI, simulasi HPC, aplikasi komputasi ilmiah, dan beban kerja AI generatif yang paling menuntut yang membutuhkan bandwidth memori dan kekuatan komputasi yang luar biasa.
GPU memori hbm3e
,Memori 141GB GPU
,141GB GPU workstation
-
Prosesor Server CPU Gold 6442Y 24 Core 4.00 GHz Turbo 225W TDP
Intel Xeon Gold 6442Y: CPU server 24-core dengan turbo 4,0GHz, memori DDR5, dan akselerasi AI (AMX/DL Boost). Ideal untuk pusat data, virtualisasi, dan beban kerja HPC dengan keandalan perusahaan. -
Xeon Silver 4514Y 5th Gen Scalable Processor dengan 16 Core DDR5 Memori Dukungan 150W TDP
Intel Xeon Silver 4514Y: CPU server 16-core dengan 32 thread, turbo 3,4GHz, memori DDR5-4400, PCIe 5.0, dan fitur keamanan tingkat lanjut termasuk TDX dan AMX untuk kinerja pusat data yang optimal. -
Prosesor Server AMD EPYC 9015 Dengan 8 Core TDP 125W Dan Arsitektur Zen 5
AMD EPYC™ 9015: CPU server 'Zen 5' 8-core dengan TDP 125W, cache L3 64MB, DDR5 12 saluran, dan 128 jalur PCIe 5.0. Ideal untuk penerapan perusahaan yang sensitif terhadap biaya yang memerlukan efisiensi dan keandalan daya.