এনভিআইডিআইএ আরটিএক্স প্রো ৬০০০ ব্ল্যাকওয়েল সার্ভার ৯৬ জিবি জিডিডিআর৭ মেমরি সহ অপ্টিমাইজড জিপিইউ

NVIDIA RTX PRO 6000 ব্ল্যাকওয়েল সার্ভার এডিশন হল ফ্ল্যাগশিপ পেশাদার GPU-এর একটি হেডলেস, র‍্যাক-অপ্টিমাইজড ভ্যারিয়েন্ট, যা বিশেষভাবে ডেটা সেন্টার পরিবেশ, হাই-পারফরম্যান্স কম্পিউটিং (HPC) ক্লাস্টার এবং বৃহৎ আকারের এআই ইনফারেন্স নোডের জন্য তৈরি করা হয়েছে।

এর ওয়ার্কস্টেশন প্রতিরূপের বিপরীতে, এই এডিশনটি সার্ভার র‍্যাকে ২৪/৭ অপারেশনের জন্য ডিজাইন করা হয়েছে যেখানে রিমোট ম্যানেজমেন্ট, ফ্রন্ট-টু-ব্যাক এয়ারফ্লো এবং থার্মাল এফিসিয়েন্সি অত্যন্ত গুরুত্বপূর্ণ। এটি এআই ওয়ার্কলোড স্কেল আউট করা, Llama 3 70B-এর মতো বৃহৎ ভাষা মডেল চালানো এবং ভার্চুয়ালাইজড বা ক্লাউড-ভিত্তিক প্রোডাকশন পাইপলাইনে উচ্চ-বিশ্বস্ত রেন্ডারিংয়ের প্রয়োজনীয় সংস্থাগুলিকে লক্ষ্য করে।

এই সার্ভার এডিশনটি RTX PRO 6000-এর মূল কম্পিউটেশনাল ডিএনএ শেয়ার করে, যার মধ্যে রয়েছে:

• ECC সহ ৯৬ জিবি GDDR7 মেমরি
• সম্পূর্ণ GB202 GPU ডাই কনফিগারেশন
• হেডলেস অপারেশন (কোন সক্রিয় ডিসপ্লে আউটপুট নেই)
• র‍্যাক-মাউন্টেড স্থাপনার জন্য অপ্টিমাইজ করা
• বিচ্ছিন্ন ইনস্ট্যান্সে বিভক্ত করার জন্য মাল্টি-ইনস্ট্যান্স GPU (MIG) সমর্থন

মাল্টি-GPU কনফিগারেশনে—যেমন ৮x GPU সার্ভার—এটি প্রশিক্ষণের জন্য বিশাল সম্মিলিত মেমরি পুল (৭০0 জিবি-এর বেশি) এবং কম্পিউট ডেনসিটি সরবরাহ করে এবং ইনফারেন্স টাস্ক যা বিশাল সমান্তরালতার প্রয়োজন।

সার্ভার এডিশনের ফার্মওয়্যার, পাওয়ার এবং থার্মাল প্রোফাইলগুলি একটি জব শিডিউলারের অধীনে টেকসই ওয়ার্কলোডের জন্য বিশেষভাবে টিউন করা হয়েছে। এটি সাধারণত NVIDIA AI Enterprise সফ্টওয়্যার এবং কন্টেইনার অর্কেস্ট্রেশন সরঞ্জামগুলির সাথে নির্বিঘ্ন স্কেলিং সহজতর করার জন্য স্থাপন করা হয়।

কার্ডটি সার্ভার চ্যাসিস এয়ারফ্লো প্যাটার্নের জন্য তৈরি একটি প্যাসিভ বা অ্যাক্টিভ থার্মাল সলিউশন ব্যবহার করে, স্বতন্ত্র টাওয়ার কুলিংয়ের পরিবর্তে। ব্যক্তিগত ডেটা সেন্টার তৈরি করা বা ক্লাউড GPU ইনস্ট্যান্স ব্যবহার করা সংস্থাগুলির জন্য, RTX PRO 6000 সার্ভার এডিশন বৈজ্ঞানিক সিমুলেশন, জেনারেটিভ এআই এবং ভার্চুয়াল ডেস্কটপ ইনফ্রাস্ট্রাকচার (VDI) জুড়ে স্কেলযোগ্য, এন্টারপ্রাইজ-গ্রেড অ্যাক্সিলারেশনের জন্য গোল্ড স্ট্যান্ডার্ড উপস্থাপন করে।