English
Français
Deutsch
Italiano
Русский
Español
Português
Nederlandse
Ελληνικά
日本語
한국
العربية
हिन्दी
Türkçe
Indonesia
Tiếng Việt
বাংলা
فارسی
Polski
NVIDIA H100 NVL 94GB GPU สถาปัตยกรรม Hopper และ PCIe 5.0 x16
สรุปผลิตภัณฑ์
NVIDIA H100 NVL 94GB GPU มอบประสิทธิภาพ LLM ที่เร็วขึ้น 12 เท่า เทียบกับ A100 พร้อมหน่วยความจำ HBM3 ขนาด 188GB ในการกำหนดค่าแบบคู่ เหมาะสำหรับรุ่น GPT-175B ที่มี Transformer Engine และ PCIe 5.0 เพื่อการอนุมานและการฝึกอบรม AI ที่มีประสิทธิภาพในเซิร์ฟเวอร์มาตรฐาน
คุณสมบัติพื้นฐาน
ชื่อแบรนด์:
NVIDIA
หมายเลขรุ่น:
900-21010-0020-000
การซื้อขายอสังหาริมทรัพย์
ปริมาณการสั่งซื้อขั้นต่ำ:
10
ราคา:
24000USD
เงื่อนไขการชำระเงิน:
ที/ที
คําอธิบายสินค้า
NVIDIA H100 NVL GPU ขนาด 94GB
NVIDIA MPN: 900-21010-0020-000
GPU NVIDIA H100 NVL 94GB ถูกสร้างมาเพื่อประชาธิปไตยการสรุปและการฝึกแบบภาษาขนาดใหญ่ (LLM) โดยนําพลังงานของสถาปัตยกรรม Hopper มาสู่ระบบเซอร์เวอร์ที่ใช้ PCIe เป็นหลัก.ตัวแปรพิเศษนี้ตอบโจทย์ความต้องการความจําและการคํานวณที่แตกต่างของโมเดลสูงสุด 175 พันล้านพารามิเตอร์ เช่น GPT-175Bส่งผลงานได้อย่างดีเยี่ยม โดยยังคงให้มีประสิทธิภาพในการดําเนินงานในสภาพแวดล้อมของศูนย์ข้อมูลที่จํากัดพลังงาน.
เมื่อนําไปใช้ในระบบการปรับปรุง GPU สองแบบที่เชื่อมต่อกันผ่าน NVLink bridge, H100 NVL ให้ความจํา HBM3 รวมกัน 188 GB, ทําให้คู่ GPU สามารถทํางานได้อย่างมีประสิทธิภาพในฐานะพูลความจําที่รวมกัน.
รายละเอียดเทคนิค
H100 NVL มีความจํา HBM3 ขนาด 94 GB ที่ปรับปรุงให้เหมาะสมกับภาระงานสรุปที่ใช้ความจํามากและการปรับปรุงตัวอย่างภาษาขนาดใหญ่GPU ใช้ความสามารถเต็มที่ของสถาปัตยกรรม Hopperรวมถึงเครื่องยนต์ทรานฟอร์เมอร์ (Transformer Engine) ที่เร่งการดําเนินงาน LLM ด้วยการคิดเลขความละเอียดผสม
เมื่อเทียบกับระบบรุ่นก่อนหน้านี้, เซอร์เวอร์ที่มี GPU NVL H100 แสดงผลงานสูงถึง 12 เท่าในรุ่น GPT-175B กว่า NVIDIA DGX A100ด้วยคุณสมบัติความช้าที่ดีขึ้นอย่างมากการ์ดมีอินเตอร์เฟสผ่าน PCIe 5.0 x16 และรองรับเทคโนโลยี NVLink ผ่านพานทําให้การสื่อสาร GPU-to-GPU ความกว้างแบนด์ความสูงเป็นสิ่งจําเป็นสําหรับการปรับขนาดการขนานรูปแบบข้ามเร่งหลายตัว.
การออกแบบและความสอดคล้อง
ออกแบบมาเพื่อการจัดจําหน่ายศูนย์ข้อมูลทั่วไป H100 NVL ใช้รูปแบบแบบสองสล็อตที่มีตัวเลือกการเย็นแบบมีสัญลักษณ์หรือมีสัญลักษณ์ตามการปรับแต่งของ OEMGPU เป็นที่เข้ากันได้อย่างสมบูรณ์แบบกับ NVIDIA's enterprise software stack, รวมถึง CUDA, TensorRT และ NVIDIA AI Enterprise suite, รับประกันการบูรณาการอย่างต่อเนื่องกับสายท่อ AI ที่มีอยู่
การใช้งานหลักประกอบด้วยการสรุปในเวลาจริงสําหรับ AI การพูดคุย, การปรับรูปร่างแบบ, และการเรียกคืนการเติบโตการสร้าง (RAG)ผลประกอบการคํานวณ, และประสิทธิภาพการใช้พลังงาน the H100 NVL represents the optimal entry point for organizations seeking to operationalize large language models across their infrastructure without the complexity or cost of high-density SXM-based systems.
รายละเอียดสินค้า
เน้น:
การ์ดจอ NVIDIA H100 PCIe
,การ์ดจอ PCIe 94GB
,การ์ดจอ PCIe 5.0 x16
สินค้าที่เกี่ยวข้อง
-
HPE Server ส่วน P50400-B21 HPE Gen11 2U เบซลคิต
ภาพรวมผลิตภัณฑ์ HPE: P50400-B21 HPE P50400-B21 เป็นชุดเซ็กซี่เบเซลระดับพรีเมียม 2U Quick-Release ที่ออกแบบเป็นพิเศษสําหรับเซอร์เวอร์ HPE ProLiant Gen11 2U ที่ปรับปรุง Rackองค์ประกอบฮาร์ดแวร์นี้ ผสมผสานความสวยงามด้านหน้ากับความปลอดภัยทางกายภาพ, ป้องกันการแทรกซ้อมที่ไม่อนุมัติในสถานที่ กับช่องขับเคลื่... -
r6u03a hpe storeonce 5260 base system
R6U03A HPE StoreOnce 5260 Base System ความทนทานของข้อมูลระดับองค์กร R6U03A HPE StoreOnce 5260 Base System เป็นอุปกรณ์สำรองและกู้คืนข้อมูลประสิทธิภาพสูงที่ออกแบบมาเพื่อตอบสนองความต้องการที่เข้มงวดของศูนย์ข้อมูลองค์กรขนาดใหญ่ ในฐานะเสาหลักของการกลยุทธ์การปกป้องข้อมูลสมัยใหม่ รุ่น 5260 นำเสนอสถาปัตยกรร... -
โปรเซสเซอร์ Intel Xeon 6714P ความถี่ฐาน 4.0 GHz 8 คอร์ 16 ธีรและ TDP 165W
Intel Xeon 6714P: โปรเซสเซอร์ 8 คอร์พร้อมเทอร์โบ 4.3GHz, แคช 48MB และตัวเร่งความเร็วในตัวสำหรับการอนุมาน AI ปริมาณงานฐานข้อมูล และการจัดส่งเนื้อหา นำเสนอหน่วยความจำ DDR5, PCIe 5.0 และความสามารถในการปรับขนาดแบบหลายซ็อกเก็ต
