English
Français
Deutsch
Italiano
Русский
Español
Português
Nederlandse
Ελληνικά
日本語
한국
हिन्दी
Türkçe
Indonesia
Tiếng Việt
ไทย
বাংলা
فارسی
Polski
وحدة معالجة الرسوميات NVIDIA H100 NVL بسعة 94 جيجابايت مع بنية Hopper و PCIe 5.0 x16
ملخص المنتج
توفر وحدة معالجة الرسومات NVIDIA H100 NVL 94GB أداء LLM أسرع 12 مرة مقارنة بـ A100، مع ذاكرة HBM3 بسعة 188 جيجابايت في التكوينات المزدوجة. مثالي لطرز GPT-175B، التي تتميز بمحرك Transformer Engine وPCIe 5.0 لاستدلال الذكاء الاصطناعي الفعال والتدريب في الخوادم القياسية.
الخصائص الأساسية
الاسم التجاري:
NVIDIA
رقم الموديل:
900-21010-0020-000
تداول العقارات
الحد الأدنى لكمية الطلب:
10
سعر:
24000USD
شروط الدفع:
تي/تي
وصف المنتج
وحدة معالجة الرسوميات NVIDIA H100 NVL بسعة 94 جيجابايت
NVIDIA MPN: 900-21010-0020-000
تم تصميم وحدة معالجة الرسوميات NVIDIA H100 NVL بسعة 94 جيجابايت خصيصًا لتعميم استدلال وتدريب نماذج اللغة الكبيرة (LLM) من خلال جلب قوة معمارية Hopper إلى أنظمة الخوادم الرئيسية المستندة إلى PCIe. يعالج هذا الإصدار المتخصص متطلبات الذاكرة والحوسبة الفريدة للنماذج التي تصل إلى 175 مليار معلمة، مثل GPT-175B، مما يوفر أداءً استثنائيًا مع الحفاظ على الكفاءة التشغيلية في بيئات مراكز البيانات المقيدة بالطاقة.
عند نشرها في تكوينات مزدوجة لوحدات معالجة الرسوميات مرتبطة عبر جسور NVLink، توفر H100 NVL ذاكرة HBM3 مجمعة بسعة 188 جيجابايت، مما يتيح لزوج وحدات معالجة الرسوميات العمل كمجمع ذاكرة موحد.
المواصفات الفنية
تتميز H100 NVL بذاكرة HBM3 بسعة 94 جيجابايت، محسّنة لأعباء العمل الاستدلالية المكثفة للذاكرة وضبط نماذج اللغة الكبيرة. تستفيد وحدة معالجة الرسوميات من الإمكانيات الكاملة لمعمارية Hopper، بما في ذلك محرك Transformer الذي يسرع عمليات LLM باستخدام الحوسبة ذات الدقة المختلطة.
مقارنة بالأنظمة من الجيل السابق، تُظهر الخوادم المجهزة بوحدات معالجة الرسوميات H100 NVL أداءً أعلى بما يصل إلى 12 مرة على نماذج GPT-175B مقارنة بتكوينات NVIDIA DGX A100، مع تحسينات كبيرة في خصائص زمن الاستجابة. تتصل البطاقة عبر PCIe 5.0 x16 وتدعم تقنية NVLink عبر الجسور، مما يتيح اتصالاً فائق النطاق الترددي بين وحدات معالجة الرسوميات الضروري لتوسيع نطاق توازي النماذج عبر مسرعات متعددة.
التصميم والتوافق
تم تصميم H100 NVL للنشر في مراكز البيانات الرئيسية، وتعتمد على عامل شكل مزدوج الفتحة مع خيارات تبريد نشطة أو سلبية اعتمادًا على تكوين OEM. وحدة معالجة الرسوميات متوافقة تمامًا مع حزمة برامج NVIDIA للمؤسسات، بما في ذلك CUDA و TensorRT ومجموعة NVIDIA AI Enterprise، مما يضمن التكامل السلس في خطوط أنابيب الذكاء الاصطناعي الحالية.
تشمل التطبيقات الرئيسية الاستدلال في الوقت الفعلي للذكاء الاصطناعي المحادثي، وضبط النماذج، وأعباء العمل الخاصة بتوليد الاسترجاع المعزز (RAG). بفضل مزيجها المتوازن من سعة الذاكرة وأداء الحوسبة وكفاءة الطاقة، تمثل H100 NVL نقطة الدخول المثلى للمؤسسات التي تسعى إلى تشغيل نماذج اللغة الكبيرة عبر بنيتها التحتية دون تعقيد أو تكلفة الأنظمة عالية الكثافة المستندة إلى SXM.
تفاصيل المنتج
إبراز:
وحدة معالجة الرسوميات NVIDIA H100 PCIe
,وحدة معالجة الرسوميات PCIe بسعة 94 جيجابايت
,وحدة معالجة الرسوميات PCIe 5.0 x16
منتجات ذات صلة
-
P08443-B21 إينتل E810-XXVDA2 إيثيرنث 10/25 جيجابايت 2 منفذ SFP28 محول لـ HPE
محول OCP3 معتمد من HPE مع منافذ SFP+ مزدوجة بسرعة 10 جيجابت. تتميز بمجموعة شرائح Broadcom BCM57412، ودعم SR-IOV، وRoCE v2، واستهلاك منخفض للطاقة. يشمل ضمانًا لمدة عام وشحنًا عالميًا. -
نظام HPE StoreOnce 5260 الأساسي R6U03A
R6U03A نظام HPE StoreOnce 5260 الأساسي صمود البيانات على مستوى المؤسسة الـR6U03A نظام HPE StoreOnce 5260 الأساسيهو جهاز احتياطي واسترداد عالي الأداء تم تصميمه لتلبية المتطلبات الصارمة لمراكز البيانات على نطاق واسع.النموذج 5260 يوفر بنية متطورة التي تحسن استغلال التخزين من خلال تكنولوجيا التنفيذ الرا... -
معالج AMD EPYC™ 9354 بـ 32 نواة وسرعة أساسية 3.25 جيجاهرتز واستهلاك طاقة 280 واط
AMD EPYC 9354: معالج "Zen 4" ذو 32 نواة مع تردد أساسي 3.25 جيجا هرتز وذاكرة تخزين مؤقت L3 سعة 256 ميجابايت وطاقة TDP تبلغ 280 واط. مُحسّن لأحمال عمل المؤسسات عالية التردد مثل قواعد البيانات والاتصالات والتحليلات في الوقت الفعلي. يتميز بذاكرة DDR5 وPCIe 5.0 I/O وأمان AMD Infinity Guard.
