English
Français
Deutsch
Italiano
Русский
Español
Português
Nederlandse
Ελληνικά
日本語
한국
العربية
हिन्दी
Türkçe
Indonesia
Tiếng Việt
ไทย
বাংলা
Polski
پردازنده گرافیکی NVIDIA H100 NVL 94 گیگابایتی با معماری Hopper و PCIe 5.0 x16
خلاصه محصول
پردازنده گرافیکی NVIDIA H100 NVL 94GB، عملکرد LLM را در مقایسه با A100 12 برابر سریعتر ارائه میکند، با 188 گیگابایت حافظه HBM3 در پیکربندیهای دوگانه. ایدهآل برای مدلهای GPT-175B، دارای موتور ترانسفورماتور و PCIe 5.0 برای استنتاج کارآمد هوش مصنوعی و آموزش در سرورهای استاندارد.
خواص اساسی
نام تجاری:
NVIDIA
شماره مدل:
900-21010-0020-000
املاک تجاری
حداقل مقدار سفارش:
10
قیمت:
24000USD
شرایط پرداخت:
T/T
توضیحات محصول
GPU NVIDIA H100 NVL 94GB
NVIDIA MPN: 900-21010-0020-000
GPU NVIDIA H100 NVL 94GB به طور خاص برای دموکراتیک سازی نتیجه گیری و آموزش مدل زبان بزرگ (LLM) با آوردن قدرت معماری Hopper به سیستم های سرور مبتنی بر PCIe ساخته شده است..این نوع تخصصی نیازهای حافظه و محاسباتی منحصر به فرد مدل ها را تا 175 میلیارد پارامتر، مانند GPT-175B،ارائه عملکرد استثنایی در حالی که حفظ بهره وری عملیاتی در محیط های مرکز داده با قدرت محدود.
هنگامی که در پیکربندی های دو-GPU که از طریق پل های NVLink متصل می شوند، H100 NVL 188 GB حافظه HBM3 را فراهم می کند، به طور موثر اجازه می دهد تا جفت GPU به عنوان یک استخر حافظه یکپارچه عمل کند.
مشخصات فنی
H100 NVL دارای حافظه 94 GB HBM3 است که برای بارهای کاری استنباط محتاط به حافظه و تنظیم دقیق مدل های زبان بزرگ بهینه شده است.GPU از تمام قابلیت های معماری Hopper استفاده می کند، از جمله موتور ترانسفورم که عملیات LLM را با محاسبات دقیق مخلوط تسریع می کند.
در مقایسه با سیستم های نسل قبلی، سرورهای مجهز به GPU های H100 NVL عملکرد 12 برابر بالاتر را در مدل های GPT-175B نسبت به پیکربندی های NVIDIA DGX A100 نشان می دهند.با ویژگی های تاخیر به طور قابل توجهی بهبود یافتهکارت از طریق PCIe 5.0 x16 رابط می شود و از تکنولوژی NVLink از طریق پل ها پشتیبانی می کند.امکان اتصال GPU به GPU با پهنای باند بسیار بالا که برای مقیاس بندی موازی مدل در چندین شتاب دهنده ضروری است.
طراحی و سازگاری
H100 NVL که برای استقرار مرکز داده های اصلی طراحی شده است، یک عامل فرم دو سلاتی با گزینه های خنک کننده فعال یا منفعل بسته به پیکربندی OEM را اتخاذ می کند.GPU به طور کامل با مجموعه نرم افزار شرکت NVIDIA سازگار است، از جمله CUDA ، TensorRT و مجموعه NVIDIA AI Enterprise ، که یکپارچه سازی را در خط لوله های هوش مصنوعی موجود تضمین می کند.
کاربردهای کلیدی شامل نتیجه گیری در زمان واقعی برای هوش مصنوعی مکالمه، تنظیم دقیق مدل و بار کاری تولید افزوده بازیابی (RAG) است. با ترکیب متعادل ظرفیت حافظه،عملکرد محاسباتو بهره وری انرژی the H100 NVL represents the optimal entry point for organizations seeking to operationalize large language models across their infrastructure without the complexity or cost of high-density SXM-based systems.
جزئیات محصول
برجسته کردن:
پردازنده گرافیکی NVIDIA H100 PCIe
,پردازنده گرافیکی PCIe 94 گیگابایتی
,پردازنده گرافیکی PCIe 5.0 x16
محصولات مرتبط
-
Xeon Silver 4416+ پردازنده سرور با 20 هسته 40 رشته پشتیبانی حافظه DDR5
Xeon Silver 4416+: 20 هسته، 40 رشته، 3.9 گیگاهرتز توربو. حافظه DDR5، PCIe 5.0، امنیت پیشرفته و شتاب هوش مصنوعی. ایده آل برای مجازی سازی، ابر و تجزیه و تحلیل داده ها. -
پردازنده سرور Xeon Gold 6444Y با 28 هسته، 56 رشته و فرکانس توربو حداکثر 4.00 گیگاهرتز
Xeon Gold 6444Y: CPU سرور 28 هسته ای با 4.0 گیگاهرتز توربو، 56 مگابایت کش و 205 وات TDP. دارای PCIe 5.0، حافظه DDR5، شتاب هوش مصنوعی (AMX/DL Boost) و مجازیسازی پیشرفته برای ابر، پایگاههای داده و حجمهای کاری فشرده. -
پردازنده سرور اینتل Xeon Gold 6538N با 32 هسته حافظه DDR5 5200 MT / S و اینتل AMX برای شتاب AI
Intel Xeon Gold 6538N: CPU سرور 32 هستهای با توربو 4.1 گیگاهرتز، حافظه نهان 60 مگابایتی و ویژگیهای پیشرفته هوش مصنوعی/امنیتی. ایدهآل برای ابر، HPC، و حجمهای کاری سازمانی با داده فشرده با حافظه DDR5 و پشتیبانی از PCIe 5.0.
