NVIDIA H200 141GB HBM3e Memori GPU dengan 4,8 TB per detik Bandwidth

NVIDIA H200 NVL merupakan evolusi terbaru dari arsitektur Hopper, yang direkayasa khusus untuk menangani beban kerja model bahasa besar (LLM) yang paling menuntut dan tugas AI generatif. Sebagai GPU pertama yang menampilkan memori HBM3e, H200 NVL menetapkan tolok ukur baru untuk kinerja pusat data, memberikan bandwidth memori dan kapasitas yang belum pernah terjadi sebelumnya untuk mempercepat pelatihan dan inferensi untuk model dengan ratusan miliar parameter.

Solusi berbasis PCIe ini menghadirkan kekuatan akselerator AI tercanggih NVIDIA ke infrastruktur server arus utama, menawarkan jalur peningkatan yang mulus untuk penerapan H100 yang sudah ada.

• Teknologi Multi-Instance GPU (MIG) untuk partisi aman menjadi hingga tujuh instance terisolasi
• Transformer Engine memberikan pelatihan AI hingga 9x lebih cepat untuk model bahasa besar
• Dukungan presisi FP8 mencapai hingga 1.979 TFLOPS
• Kinerja FP64 dinilai pada 34 TFLOPS
• Dioptimalkan untuk lingkungan pusat data yang dioptimalkan untuk rak

NVIDIA H200 NVL sangat cocok untuk inferensi AI, simulasi HPC, aplikasi komputasi ilmiah, dan beban kerja AI generatif yang paling menuntut yang membutuhkan bandwidth memori dan kekuatan komputasi yang luar biasa.