English
Français
Deutsch
Italiano
Русский
Español
Português
Nederlandse
Ελληνικά
日本語
한국
العربية
हिन्दी
Türkçe
Indonesia
Tiếng Việt
ไทย
فارسی
Polski
হপার আর্কিটেকচার এবং পিসিআইই 5.0 x16 সহ এনভিআইডিআইএ এইচ 100 এনভিএল 94 জিবি জিপিইউ
পণ্যের সারসংক্ষেপ
NVIDIA H100 NVL 94GB GPU দ্বৈত কনফিগারেশনে 188GB HBM3 মেমরি সহ, A100 বনাম 12x দ্রুত LLM কর্মক্ষমতা প্রদান করে। GPT-175B মডেলের জন্য আদর্শ, ট্রান্সফরমার ইঞ্জিন এবং PCIe 5.0 সমন্বিত দক্ষ AI অনুমান এবং স্ট্যান্ডার্ড সার্ভারগুলিতে প্রশিক্ষণের জন্য।
মৌলিক বৈশিষ্ট্য
ব্র্যান্ড নাম:
NVIDIA
মডেল নম্বর:
900-21010-0020-000
বাণিজ্যিক সম্পত্তি
ন্যূনতম অর্ডার পরিমাণ:
10
দাম:
24000USD
পেমেন্ট শর্তাবলী:
টি/টি
পণ্যের বর্ণনা
NVIDIA H100 NVL 94GB GPU
NVIDIA MPN: 900-21010-0020-000
NVIDIA H100 NVL 94GB GPU বিশেষভাবে তৈরি করা হয়েছে বৃহৎ ভাষা মডেল (LLM) ইনফারেন্স এবং প্রশিক্ষণের জন্য, যা হপার আর্কিটেকচারের শক্তিকে মূলধারার PCIe-ভিত্তিক সার্ভার সিস্টেমে নিয়ে আসে। এই বিশেষ সংস্করণটি 175 বিলিয়ন প্যারামিটার পর্যন্ত মডেলগুলির জন্য প্রয়োজনীয় মেমরি এবং কম্পিউট প্রয়োজনীয়তা পূরণ করে, যেমন GPT-175B, যা ব্যতিক্রমী কর্মক্ষমতা প্রদান করে এবং পাওয়ার-সীমাবদ্ধ ডেটা সেন্টার পরিবেশে অপারেশনাল দক্ষতা বজায় রাখে।
NVLink ব্রিজ দ্বারা সংযুক্ত ডুয়াল-GPU কনফিগারেশনে স্থাপন করা হলে, H100 NVL 188 GB HBM3 মেমরি সরবরাহ করে, যা GPU জোড়াকে একটি ইউনিফাইড মেমরি পুল হিসাবে কাজ করতে সক্ষম করে।
প্রযুক্তিগত স্পেসিফিকেশন
H100 NVL-এ 94 GB HBM3 মেমরি রয়েছে, যা মেমরি-ইনটেনসিভ ইনফারেন্স ওয়ার্কলোড এবং বৃহৎ ভাষা মডেলের ফাইন-টিউনিংয়ের জন্য অপ্টিমাইজ করা হয়েছে। GPU হপার আর্কিটেকচারের সম্পূর্ণ ক্ষমতা ব্যবহার করে, যার মধ্যে ট্রান্সফরমার ইঞ্জিনও রয়েছে যা মিশ্র-প্রিসিশন কম্পিউটিংয়ের মাধ্যমে LLM অপারেশনগুলিকে ত্বরান্বিত করে।
পূর্ববর্তী প্রজন্মের সিস্টেমগুলির তুলনায়, H100 NVL GPU-যুক্ত সার্ভারগুলি NVIDIA DGX A100 কনফিগারেশনের তুলনায় GPT-175B মডেলগুলিতে 12 গুণ বেশি কর্মক্ষমতা প্রদর্শন করে, উল্লেখযোগ্যভাবে উন্নত ল্যাটেন্সি বৈশিষ্ট্য সহ। কার্ডটি PCIe 5.0 x16 এর মাধ্যমে ইন্টারফেস করে এবং ব্রিজগুলির মাধ্যমে NVLink প্রযুক্তি সমর্থন করে, যা একাধিক অ্যাক্সিলারেটর জুড়ে মডেল প্যারালালিজম স্কেল করার জন্য প্রয়োজনীয় আল্ট্রা-হাই ব্যান্ডউইথ GPU-to-GPU যোগাযোগ সক্ষম করে।
ডিজাইন ও সামঞ্জস্যতা
মূলধারার ডেটা সেন্টার স্থাপনার জন্য ডিজাইন করা, H100 NVL একটি ডুয়াল-স্লট ফর্ম ফ্যাক্টর গ্রহণ করে যা OEM কনফিগারেশনের উপর নির্ভর করে অ্যাক্টিভ বা প্যাসিভ কুলিং বিকল্প সহ আসে। GPU NVIDIA-এর এন্টারপ্রাইজ সফ্টওয়্যার স্ট্যাকের সাথে সম্পূর্ণ সামঞ্জস্যপূর্ণ, যার মধ্যে CUDA, TensorRT, এবং NVIDIA AI এন্টারপ্রাইজ স্যুট অন্তর্ভুক্ত রয়েছে, যা বিদ্যমান AI পাইপলাইনগুলিতে নির্বিঘ্ন একীকরণ নিশ্চিত করে।
মূল অ্যাপ্লিকেশনগুলির মধ্যে রয়েছে কনভারসেশনাল AI-এর জন্য রিয়েল-টাইম ইনফারেন্স, মডেল ফাইন-টিউনিং এবং রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG) ওয়ার্কলোড। মেমরি ক্ষমতা, কম্পিউট পারফরম্যান্স এবং পাওয়ার এফিসিয়েন্সির ভারসাম্যপূর্ণ সংমিশ্রণের সাথে, H100 NVL হল সেই সংস্থাগুলির জন্য সর্বোত্তম এন্ট্রি পয়েন্ট যারা উচ্চ-ঘনত্বের SXM-ভিত্তিক সিস্টেমের জটিলতা বা খরচ ছাড়াই তাদের পরিকাঠামো জুড়ে বৃহৎ ভাষা মডেলগুলিকে অপারেশনাল করতে চায়।
পণ্যের বিবরণ
বিশেষভাবে তুলে ধরা:
এনভিডিয়া এইচ১০০ পিসিই জিপিইউ
,৯৪ জিবি পিসি জিপিইউ
,পিসিআইই ৫.০ এক্স ১৬ জিপিইউ
সম্পর্কিত পণ্য
-
৩২ কোর ৬৪ থ্রেড ৪.১০ গিগাহার্টজ ম্যাক্স সহ ইন্টেল জিয়ন গোল্ড ৬৪৮এইচ সার্ভার প্রসেসর
Intel Xeon Gold 6448H: 32 কোর, 4.1GHz টার্বো, 250W TDP। বৈশিষ্ট্য DDR5 মেমরি, PCIe 5.0, উন্নত AI/ML ত্বরণ, এবং এন্টারপ্রাইজ-গ্রেড নিরাপত্তা। ডেটা-নিবিড় সার্ভার ওয়ার্কলোডের জন্য আদর্শ। -
Xeon Platinum 8462Y+ 4th Gen Scalable Processor 32 Cores 4.10 GHz Turbo 300W TDP সহ
Xeon Platinum 8462Y+: 32 কোর, 4.1GHz টার্বো, 60MB ক্যাশে। DDR5 মেমরি, PCIe 5.0, এবং ব্যাপক নিরাপত্তা বৈশিষ্ট্য সহ উন্নত 7nm প্রক্রিয়া। এন্টারপ্রাইজ ডেটা সেন্টার এবং উচ্চ-পারফরম্যান্স কম্পিউটিংয়ের জন্য আদর্শ। -
এক্সন সিলভার ৪৫১৪ওয়াই ৫ম জেনারেটেড স্কেলযোগ্য প্রসেসর ১৬ কোর ডিডিআর৫ মেমোরি সাপোর্ট ১৫০ ওয়াট টিডিপি
Intel Xeon Silver 4514Y: 32 থ্রেড সহ 16-কোর সার্ভার CPU, 3.4GHz টার্বো, DDR5-4400 মেমরি, PCIe 5.0, এবং অপ্টিমাইজড ডেটা সেন্টার পারফরম্যান্সের জন্য TDX এবং AMX সহ উন্নত নিরাপত্তা বৈশিষ্ট্য।
