NVIDIA H200 141GB HBM3e Memory GPU พร้อมแบนด์วิดท์ 4.8 TB ต่อวินาที
NVIDIA H200 NVL คือวิวัฒนาการล่าสุดของสถาปัตยกรรม Hopper ที่ออกแบบมาโดยเฉพาะเพื่อรองรับเวิร์กโหลดโมเดลภาษาขนาดใหญ่ (LLM) ที่มีความต้องการสูงที่สุดและงาน AI เชิงสร้างสรรค์ ในฐานะ GPU ตัวแรกที่มีหน่วยความจำ HBM3e, H200 NVL ได้สร้างมาตรฐานใหม่สำหรับประสิทธิภาพของศูนย์ข้อมูล โดยมอบแบนด์วิดท์หน่วยความจำและความจุที่ไม่เคยมีมาก่อนเพื่อเร่งความเร็วทั้งการฝึกอบรมและการอนุมานสำหรับโมเดลที่มีพารามิเตอร์หลายแสนล้านตัว
โซลูชันที่ใช้ PCIe นี้ นำพลังของตัวเร่ง AI ที่ล้ำสมัยที่สุดของ NVIDIA มาสู่โครงสร้างพื้นฐานเซิร์ฟเวอร์หลัก โดยเสนอเส้นทางการอัปเกรดที่ราบรื่นสำหรับการใช้งาน H100 ที่มีอยู่
| หน่วยความจำ | 141 GB HBM3e |
|---|---|
| แบนด์วิดท์หน่วยความจำ | 4.8 TB/s |
| CUDA Cores | 14,592 |
| Tensor Cores | 456 รุ่นที่สี่ |
| อินเทอร์เฟซ | PCIe 5.0 x16 |
| แบนด์วิดท์ NVLink | สูงสุด 900 GB/s |
| ฟอร์มแฟกเตอร์ | แบบสองสล็อต, ความสูงเต็มรูปแบบพร้อมระบบระบายความร้อนแบบพาสซีฟ |
| การใช้พลังงาน | 600W ปกติ (700W สูงสุด) |
- เทคโนโลยี Multi-Instance GPU (MIG) สำหรับการแบ่งพาร์ติชันที่ปลอดภัยออกเป็นสูงสุดเจ็ดอินสแตนซ์ที่แยกจากกัน
- Transformer Engine ที่ให้การฝึกอบรม AI เร็วขึ้นถึง 9 เท่าสำหรับโมเดลภาษาขนาดใหญ่
- การรองรับความแม่นยำ FP8 ที่สูงถึง 1,979 TFLOPS
- ประสิทธิภาพ FP64 ที่ระดับ 34 TFLOPS
- ปรับให้เหมาะสมสำหรับสภาพแวดล้อมศูนย์ข้อมูลที่ปรับให้เหมาะกับแร็ค
NVIDIA H200 NVL เหมาะอย่างยิ่งสำหรับการอนุมาน AI, การจำลอง HPC, แอปพลิเคชันการคำนวณทางวิทยาศาสตร์ และเวิร์กโหลด AI เชิงสร้างสรรค์ที่ต้องการมากที่สุด ซึ่งต้องการแบนด์วิดท์หน่วยความจำและพลังการประมวลผลที่ยอดเยี่ยม
GPU หน่วยความจำ hbm3e
,GPU หน่วยความจำ 141gb
,GPU เวิร์กสเตชัน 141gb
-
P08458-B21 อินเทล E810-XXVDA4 Ethernet 10/25Gb 4-port SFP28 แอดป์เตอร์สําหรับ HPE
อะแดปเตอร์ OCP3 ที่ได้รับการรับรองจาก HPE พร้อมด้วยพอร์ต 10Gb SFP+ คู่ นำเสนอชิปเซ็ต Broadcom BCM57412, รองรับ SR-IOV, RoCE v2 และใช้พลังงานต่ำ รวมถึงการรับประกัน 1 ปีและการจัดส่งทั่วโลก -
โปรเซสเซอร์ AMD EPYC 9224 พร้อมสถาปัตยกรรม Zen 4 24 คอร์ และ TDP 200W
AMD EPYC 9224: CPU 'Zen 4' 24 คอร์พร้อมบูสต์ 3.7GHz, 128 PCIe 5.0 เลน & รองรับ DDR5 TDP 200W ที่ปรับให้เหมาะสมมอบประสิทธิภาพต่อวัตต์ที่เหนือกว่าสำหรับเซิร์ฟเวอร์ การจำลองเสมือน และแอปพลิเคชันระดับองค์กร -
Xeon Gold 6538Y+ 32 Core 5th Gen Scalable Server Processor กับ TDP 225W สําหรับศูนย์ข้อมูลและคอมพิวเตอร์เมฆ
Intel Xeon Gold 6538Y+ มี 32 คอร์, แคช 60MB และเทอร์โบ 4.0GHz สำหรับศูนย์ข้อมูล นำเสนอ DDR5-5200, PCIe 5.0, ตัวเร่งความเร็ว AI ในตัว และการรักษาความปลอดภัยระดับองค์กรด้วย 225W TDP