হপার আর্কিটেকচার এবং পিসিআইই 5.0 x16 সহ এনভিআইডিআইএ এইচ 100 এনভিএল 94 জিবি জিপিইউ
পণ্যের সারসংক্ষেপ
NVIDIA H100 NVL 94GB GPU দ্বৈত কনফিগারেশনে 188GB HBM3 মেমরি সহ, A100 বনাম 12x দ্রুত LLM কর্মক্ষমতা প্রদান করে। GPT-175B মডেলের জন্য আদর্শ, ট্রান্সফরমার ইঞ্জিন এবং PCIe 5.0 সমন্বিত দক্ষ AI অনুমান এবং স্ট্যান্ডার্ড সার্ভারগুলিতে প্রশিক্ষণের জন্য।
মৌলিক বৈশিষ্ট্য
ব্র্যান্ড নাম:
NVIDIA
মডেল নম্বর:
900-21010-0020-000
বাণিজ্যিক সম্পত্তি
ন্যূনতম অর্ডার পরিমাণ:
10
দাম:
24000USD
পেমেন্ট শর্তাবলী:
টি/টি
পণ্যের বর্ণনা
NVIDIA H100 NVL 94GB GPU
NVIDIA MPN: 900-21010-0020-000
NVIDIA H100 NVL 94GB GPU বিশেষভাবে তৈরি করা হয়েছে বৃহৎ ভাষা মডেল (LLM) ইনফারেন্স এবং প্রশিক্ষণের জন্য, যা হপার আর্কিটেকচারের শক্তিকে মূলধারার PCIe-ভিত্তিক সার্ভার সিস্টেমে নিয়ে আসে। এই বিশেষ সংস্করণটি 175 বিলিয়ন প্যারামিটার পর্যন্ত মডেলগুলির জন্য প্রয়োজনীয় মেমরি এবং কম্পিউট প্রয়োজনীয়তা পূরণ করে, যেমন GPT-175B, যা ব্যতিক্রমী কর্মক্ষমতা প্রদান করে এবং পাওয়ার-সীমাবদ্ধ ডেটা সেন্টার পরিবেশে অপারেশনাল দক্ষতা বজায় রাখে।
NVLink ব্রিজ দ্বারা সংযুক্ত ডুয়াল-GPU কনফিগারেশনে স্থাপন করা হলে, H100 NVL 188 GB HBM3 মেমরি সরবরাহ করে, যা GPU জোড়াকে একটি ইউনিফাইড মেমরি পুল হিসাবে কাজ করতে সক্ষম করে।
প্রযুক্তিগত স্পেসিফিকেশন
H100 NVL-এ 94 GB HBM3 মেমরি রয়েছে, যা মেমরি-ইনটেনসিভ ইনফারেন্স ওয়ার্কলোড এবং বৃহৎ ভাষা মডেলের ফাইন-টিউনিংয়ের জন্য অপ্টিমাইজ করা হয়েছে। GPU হপার আর্কিটেকচারের সম্পূর্ণ ক্ষমতা ব্যবহার করে, যার মধ্যে ট্রান্সফরমার ইঞ্জিনও রয়েছে যা মিশ্র-প্রিসিশন কম্পিউটিংয়ের মাধ্যমে LLM অপারেশনগুলিকে ত্বরান্বিত করে।
পূর্ববর্তী প্রজন্মের সিস্টেমগুলির তুলনায়, H100 NVL GPU-যুক্ত সার্ভারগুলি NVIDIA DGX A100 কনফিগারেশনের তুলনায় GPT-175B মডেলগুলিতে 12 গুণ বেশি কর্মক্ষমতা প্রদর্শন করে, উল্লেখযোগ্যভাবে উন্নত ল্যাটেন্সি বৈশিষ্ট্য সহ। কার্ডটি PCIe 5.0 x16 এর মাধ্যমে ইন্টারফেস করে এবং ব্রিজগুলির মাধ্যমে NVLink প্রযুক্তি সমর্থন করে, যা একাধিক অ্যাক্সিলারেটর জুড়ে মডেল প্যারালালিজম স্কেল করার জন্য প্রয়োজনীয় আল্ট্রা-হাই ব্যান্ডউইথ GPU-to-GPU যোগাযোগ সক্ষম করে।
ডিজাইন ও সামঞ্জস্যতা
মূলধারার ডেটা সেন্টার স্থাপনার জন্য ডিজাইন করা, H100 NVL একটি ডুয়াল-স্লট ফর্ম ফ্যাক্টর গ্রহণ করে যা OEM কনফিগারেশনের উপর নির্ভর করে অ্যাক্টিভ বা প্যাসিভ কুলিং বিকল্প সহ আসে। GPU NVIDIA-এর এন্টারপ্রাইজ সফ্টওয়্যার স্ট্যাকের সাথে সম্পূর্ণ সামঞ্জস্যপূর্ণ, যার মধ্যে CUDA, TensorRT, এবং NVIDIA AI এন্টারপ্রাইজ স্যুট অন্তর্ভুক্ত রয়েছে, যা বিদ্যমান AI পাইপলাইনগুলিতে নির্বিঘ্ন একীকরণ নিশ্চিত করে।
মূল অ্যাপ্লিকেশনগুলির মধ্যে রয়েছে কনভারসেশনাল AI-এর জন্য রিয়েল-টাইম ইনফারেন্স, মডেল ফাইন-টিউনিং এবং রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG) ওয়ার্কলোড। মেমরি ক্ষমতা, কম্পিউট পারফরম্যান্স এবং পাওয়ার এফিসিয়েন্সির ভারসাম্যপূর্ণ সংমিশ্রণের সাথে, H100 NVL হল সেই সংস্থাগুলির জন্য সর্বোত্তম এন্ট্রি পয়েন্ট যারা উচ্চ-ঘনত্বের SXM-ভিত্তিক সিস্টেমের জটিলতা বা খরচ ছাড়াই তাদের পরিকাঠামো জুড়ে বৃহৎ ভাষা মডেলগুলিকে অপারেশনাল করতে চায়।
পণ্যের বিবরণ
বিশেষভাবে তুলে ধরা:
এনভিডিয়া এইচ১০০ পিসিই জিপিইউ
,৯৪ জিবি পিসি জিপিইউ
,পিসিআইই ৫.০ এক্স ১৬ জিপিইউ
সম্পর্কিত পণ্য
-
P25960-B21 Mellanox MCX623106AS-CDAT Ethernet 100Gb 2-port QSFP56 Adapter for HPE
ডুয়াল 10Gb SFP+ পোর্ট সহ HPE-প্রত্যয়িত OCP3 অ্যাডাপ্টার। বৈশিষ্ট্য ব্রডকম BCM57412 চিপসেট, SR-IOV, RoCE v2 সমর্থন, এবং কম শক্তি খরচ। 1 বছরের ওয়ারেন্টি এবং গ্লোবাল শিপিং অন্তর্ভুক্ত। -
P23608-B21 মাল্টি ভেন্ডর HDD HPE 16TB SAS 12G বিজনেস ক্রিটিক্যাল 7.2K LFF LP হিলিয়াম 512e ISE
7.2K RPM সহ HPE 16TB SAS 12G হিলিয়াম HDD, উচ্চ-ঘনত্ব সার্ভারের জন্য লো প্রোফাইল ক্যারিয়ার। বৈশিষ্ট্যগুলি তাত্ক্ষণিক সুরক্ষিত মুছে ফেলা, 512e ফর্ম্যাট এবং এন্টারপ্রাইজ বাল্ক স্টোরেজের জন্য বহু-বিক্রেতার নির্ভরযোগ্যতা৷ -
এক্সন গোল্ড 6538Y+ 32 কোর ডেটা সেন্টার এবং ক্লাউড কম্পিউটিংয়ের জন্য 225W টিডিপি সহ 5 ম জেনারেশন স্কেলযোগ্য সার্ভার প্রসেসর
Intel Xeon Gold 6538Y+ ডেটা সেন্টারের জন্য 32 কোর, 60MB ক্যাশে এবং 4.0GHz টার্বো সরবরাহ করে। বৈশিষ্ট্য DDR5-5200, PCIe 5.0, বিল্ট-ইন AI এক্সিলারেটর এবং 225W TDP সহ এন্টারপ্রাইজ নিরাপত্তা।