English
Français
Deutsch
Italiano
Русский
Español
Português
Nederlandse
Ελληνικά
日本語
한국
العربية
हिन्दी
Türkçe
Indonesia
Tiếng Việt
বাংলা
فارسی
Polski
NVIDIA H200 141GB HBM3e Memory GPU พร้อมแบนด์วิดท์ 4.8 TB ต่อวินาที
NVIDIA H200 NVL คือวิวัฒนาการล่าสุดของสถาปัตยกรรม Hopper ที่ออกแบบมาโดยเฉพาะเพื่อรองรับเวิร์กโหลดโมเดลภาษาขนาดใหญ่ (LLM) ที่มีความต้องการสูงที่สุดและงาน AI เชิงสร้างสรรค์ ในฐานะ GPU ตัวแรกที่มีหน่วยความจำ HBM3e, H200 NVL ได้สร้างมาตรฐานใหม่สำหรับประสิทธิภาพของศูนย์ข้อมูล โดยมอบแบนด์วิดท์หน่วยความจำและความจุที่ไม่เคยมีมาก่อนเพื่อเร่งความเร็วทั้งการฝึกอบรมและการอนุมานสำหรับโมเดลที่มีพารามิเตอร์หลายแสนล้านตัว
โซลูชันที่ใช้ PCIe นี้ นำพลังของตัวเร่ง AI ที่ล้ำสมัยที่สุดของ NVIDIA มาสู่โครงสร้างพื้นฐานเซิร์ฟเวอร์หลัก โดยเสนอเส้นทางการอัปเกรดที่ราบรื่นสำหรับการใช้งาน H100 ที่มีอยู่
| หน่วยความจำ | 141 GB HBM3e |
|---|---|
| แบนด์วิดท์หน่วยความจำ | 4.8 TB/s |
| CUDA Cores | 14,592 |
| Tensor Cores | 456 รุ่นที่สี่ |
| อินเทอร์เฟซ | PCIe 5.0 x16 |
| แบนด์วิดท์ NVLink | สูงสุด 900 GB/s |
| ฟอร์มแฟกเตอร์ | แบบสองสล็อต, ความสูงเต็มรูปแบบพร้อมระบบระบายความร้อนแบบพาสซีฟ |
| การใช้พลังงาน | 600W ปกติ (700W สูงสุด) |
- เทคโนโลยี Multi-Instance GPU (MIG) สำหรับการแบ่งพาร์ติชันที่ปลอดภัยออกเป็นสูงสุดเจ็ดอินสแตนซ์ที่แยกจากกัน
- Transformer Engine ที่ให้การฝึกอบรม AI เร็วขึ้นถึง 9 เท่าสำหรับโมเดลภาษาขนาดใหญ่
- การรองรับความแม่นยำ FP8 ที่สูงถึง 1,979 TFLOPS
- ประสิทธิภาพ FP64 ที่ระดับ 34 TFLOPS
- ปรับให้เหมาะสมสำหรับสภาพแวดล้อมศูนย์ข้อมูลที่ปรับให้เหมาะกับแร็ค
NVIDIA H200 NVL เหมาะอย่างยิ่งสำหรับการอนุมาน AI, การจำลอง HPC, แอปพลิเคชันการคำนวณทางวิทยาศาสตร์ และเวิร์กโหลด AI เชิงสร้างสรรค์ที่ต้องการมากที่สุด ซึ่งต้องการแบนด์วิดท์หน่วยความจำและพลังการประมวลผลที่ยอดเยี่ยม
GPU หน่วยความจำ hbm3e
,GPU หน่วยความจำ 141gb
,GPU เวิร์กสเตชัน 141gb
-
โปรเซสเซอร์เซิร์ฟเวอร์ Xeon Gold 6444Y พร้อม 28 คอร์ 56 เธรด 4.00 GHz Max Turbo
Xeon Gold 6444Y: CPU เซิร์ฟเวอร์ 28 คอร์พร้อมเทอร์โบ 4.0GHz, แคช 56MB และ TDP 205W นำเสนอ PCIe 5.0, หน่วยความจำ DDR5, การเร่งความเร็ว AI (AMX/DL Boost) และการจำลองเสมือนขั้นสูงสำหรับคลาวด์ ฐานข้อมูล และเวิร์กโหลดที่ใช้ข้อมูลจำนวนมาก -
Xeon Silver 4514Y โปรเซสเซอร์ Scalable เจเนอเรชันที่ 5 พร้อม 16 คอร์ รองรับหน่วยความจำ DDR5 TDP 150W
Intel Xeon Silver 4514Y: CPU เซิร์ฟเวอร์ 16 คอร์พร้อม 32 เธรด, เทอร์โบ 3.4GHz, หน่วยความจำ DDR5-4400, PCIe 5.0 และคุณสมบัติความปลอดภัยขั้นสูง รวมถึง TDX และ AMX เพื่อเพิ่มประสิทธิภาพศูนย์ข้อมูล -
9754 เอเอ็มดี เอพิค โปรเซสเซอร์ 128 คอร์ 256 เธรด และสถาปัตยกรรม Zen 4
AMD EPYC 9754: 128 คอร์, 256 เธรดสำหรับคลาวด์สูงสุดและความหนาแน่น HPC สถาปัตยกรรม Zen 4, 360W TDP, PCIe 5.0, หน่วยความจำ DDR5 เหมาะอย่างยิ่งสำหรับการจำลองเสมือน คอนเทนเนอร์ และเวิร์กโหลดการประมวลผลแบบขนาน
