English
Français
Deutsch
Italiano
Русский
Español
Português
Nederlandse
Ελληνικά
日本語
한국
हिन्दी
Türkçe
Indonesia
Tiếng Việt
ไทย
বাংলা
فارسی
Polski
وحدة معالجة الرسوميات NVIDIA H100 NVL بسعة 94 جيجابايت مع بنية Hopper و PCIe 5.0 x16
ملخص المنتج
توفر وحدة معالجة الرسومات NVIDIA H100 NVL 94GB أداء LLM أسرع 12 مرة مقارنة بـ A100، مع ذاكرة HBM3 بسعة 188 جيجابايت في التكوينات المزدوجة. مثالي لطرز GPT-175B، التي تتميز بمحرك Transformer Engine وPCIe 5.0 لاستدلال الذكاء الاصطناعي الفعال والتدريب في الخوادم القياسية.
الخصائص الأساسية
الاسم التجاري:
NVIDIA
رقم الموديل:
900-21010-0020-000
تداول العقارات
الحد الأدنى لكمية الطلب:
10
سعر:
24000USD
شروط الدفع:
تي/تي
وصف المنتج
وحدة معالجة الرسوميات NVIDIA H100 NVL بسعة 94 جيجابايت
NVIDIA MPN: 900-21010-0020-000
تم تصميم وحدة معالجة الرسوميات NVIDIA H100 NVL بسعة 94 جيجابايت خصيصًا لتعميم استدلال وتدريب نماذج اللغة الكبيرة (LLM) من خلال جلب قوة معمارية Hopper إلى أنظمة الخوادم الرئيسية المستندة إلى PCIe. يعالج هذا الإصدار المتخصص متطلبات الذاكرة والحوسبة الفريدة للنماذج التي تصل إلى 175 مليار معلمة، مثل GPT-175B، مما يوفر أداءً استثنائيًا مع الحفاظ على الكفاءة التشغيلية في بيئات مراكز البيانات المقيدة بالطاقة.
عند نشرها في تكوينات مزدوجة لوحدات معالجة الرسوميات مرتبطة عبر جسور NVLink، توفر H100 NVL ذاكرة HBM3 مجمعة بسعة 188 جيجابايت، مما يتيح لزوج وحدات معالجة الرسوميات العمل كمجمع ذاكرة موحد.
المواصفات الفنية
تتميز H100 NVL بذاكرة HBM3 بسعة 94 جيجابايت، محسّنة لأعباء العمل الاستدلالية المكثفة للذاكرة وضبط نماذج اللغة الكبيرة. تستفيد وحدة معالجة الرسوميات من الإمكانيات الكاملة لمعمارية Hopper، بما في ذلك محرك Transformer الذي يسرع عمليات LLM باستخدام الحوسبة ذات الدقة المختلطة.
مقارنة بالأنظمة من الجيل السابق، تُظهر الخوادم المجهزة بوحدات معالجة الرسوميات H100 NVL أداءً أعلى بما يصل إلى 12 مرة على نماذج GPT-175B مقارنة بتكوينات NVIDIA DGX A100، مع تحسينات كبيرة في خصائص زمن الاستجابة. تتصل البطاقة عبر PCIe 5.0 x16 وتدعم تقنية NVLink عبر الجسور، مما يتيح اتصالاً فائق النطاق الترددي بين وحدات معالجة الرسوميات الضروري لتوسيع نطاق توازي النماذج عبر مسرعات متعددة.
التصميم والتوافق
تم تصميم H100 NVL للنشر في مراكز البيانات الرئيسية، وتعتمد على عامل شكل مزدوج الفتحة مع خيارات تبريد نشطة أو سلبية اعتمادًا على تكوين OEM. وحدة معالجة الرسوميات متوافقة تمامًا مع حزمة برامج NVIDIA للمؤسسات، بما في ذلك CUDA و TensorRT ومجموعة NVIDIA AI Enterprise، مما يضمن التكامل السلس في خطوط أنابيب الذكاء الاصطناعي الحالية.
تشمل التطبيقات الرئيسية الاستدلال في الوقت الفعلي للذكاء الاصطناعي المحادثي، وضبط النماذج، وأعباء العمل الخاصة بتوليد الاسترجاع المعزز (RAG). بفضل مزيجها المتوازن من سعة الذاكرة وأداء الحوسبة وكفاءة الطاقة، تمثل H100 NVL نقطة الدخول المثلى للمؤسسات التي تسعى إلى تشغيل نماذج اللغة الكبيرة عبر بنيتها التحتية دون تعقيد أو تكلفة الأنظمة عالية الكثافة المستندة إلى SXM.
تفاصيل المنتج
إبراز:
وحدة معالجة الرسوميات NVIDIA H100 PCIe,وحدة معالجة الرسوميات PCIe بسعة 94 جيجابايت,وحدة معالجة الرسوميات PCIe 5.0 x16
,94GB pcie gpu
,PCIe 5.0 x16 GPU
منتجات ذات صلة
-
881781-B21 HPE 12TB SAS قرص صلب 12G للأعمال الهامة 7.2K LFF LP 512e متعدد البائعين HDD
محرك الأقراص الصلبة HPE سعة 12 تيرابايت SAS مزود بتقنية الهيليوم لتقليل استهلاك الطاقة. يتميز بواجهة SAS 12G وتنسيق 512e والبرامج الثابتة الموقعة رقميًا. يضمن SKU متعدد البائعين إمدادًا موثوقًا به للتخزين الحيوي للأعمال. -
معالج خادم Xeon Gold 6444Y بـ 28 نواة و 56 مسارًا وسرعة توربو قصوى 4.00 جيجاهرتز
Xeon Gold 6444Y: وحدة معالجة مركزية للخادم ذات 28 نواة مع سرعة 4.0 جيجا هرتز Turbo وذاكرة تخزين مؤقت سعة 56 ميجابايت وطاقة TDP تبلغ 205 وات. يتميز بمنفذ PCIe 5.0، وذاكرة DDR5، وتسريع الذكاء الاصطناعي (AMX/DL Boost)، والمحاكاة الافتراضية المتقدمة للسحابة وقواعد البيانات وأحمال العمل كثيفة البيانات. -
معالج Intel Xeon 6505P بـ 12 نواة وتردد توربو 4.1 جيجاهرتز واستهلاك طاقة 150 واط
Intel Xeon 6505P: 12 نواة، 4.1 جيجا هرتز توربو، ذاكرة تخزين مؤقت 48 ميجابايت. مثالي للخوادم ووحدات التخزين والحوسبة الطرفية مع PCIe 5.0 وذاكرة DDR5 ECC و150 وات TDP للحصول على أداء متوازن.
