চীনা বিশ্ববিদ্যালয় এআই গবেষণা এবং এইচপিসি ওয়ার্কলোডকে শক্তিশালী করতে এইচপিই প্রোলিয়ান্ট ডিএল৩৮০ জেন১১ সার্ভার স্থাপন করেছে
প্রকল্পের সংক্ষিপ্ত বিবরণ
চীনের একটি শীর্ষস্থানীয় বহুবিষয়ক বিশ্ববিদ্যালয় (গোপনীয়তার জন্য ক্লায়েন্টের নাম গোপন রাখা হয়েছে) স্থাপন সম্পন্ন করেছে HPE ProLiant DL380 Gen11 সার্ভারগুলি তাদের ক্যাম্পাস গবেষণা কম্পিউটিং সেন্টারে। এই প্রকল্পটি পাঁচ বছরের পুরনো একটি ডুয়াল-সকেট ক্লাস্টারকে প্রতিস্থাপন করেছে যা বিশ্ববিদ্যালয়ের কৃত্রিম বুদ্ধিমত্তা, কম্পিউটেশনাল ফ্লুইড ডাইনামিক্স এবং মেটেরিয়ালস-সায়েন্স গবেষণা গোষ্ঠীগুলির জন্য বাধা হয়ে দাঁড়িয়েছিল। বিশ্ববিদ্যালয়ের তথ্য প্রযুক্তি কেন্দ্রের সাথে কাজ করে, আমরা একটি সম্পূর্ণ কনফিগার করা, র্যাক-ইন্টিগ্রেটেড এবং বার্ন-ইন পরীক্ষিত প্ল্যাটফর্ম সরবরাহ করেছি যা এখন নয়টি অনুষদের জুড়ে ১,২০০ জনেরও বেশি গবেষক এবং স্নাতকোত্তর ছাত্রদের সমর্থন করে।
চ্যালেঞ্জ
আপগ্রেডের আগে, বিশ্ববিদ্যালয়ের শেয়ার্ড ক্লাস্টারটি জিপিইউ-ত্বরান্বিত এবং ডেটা-নিবিড় গবেষণার দ্রুত বৃদ্ধির সাথে তাল মিলিয়ে চলতে হিমশিম খাচ্ছিল। আইটি সেন্টারের দ্বারা রিপোর্ট করা প্রধান সমস্যাগুলি ছিল:
- কম্পিউট স্যাচুরেশন: লিগ্যাসি নোডগুলিতে জব কিউগুলি পিক থিসিস এবং অনুদান জমা দেওয়ার সময়গুলিতে নিয়মিতভাবে ৭২ ঘন্টার বেশি অতিক্রম করত।
- পাওয়ার এবং কুলিং সীমা: বিদ্যমান সার্ভার রুমটি ইতিমধ্যেই তার বৈদ্যুতিক সীমার কাছাকাছি কাজ করছিল, তাই যেকোনো নতুন ক্ষমতাকে প্রতি ওয়াটে অনেক বেশি কর্মক্ষমতা সরবরাহ করতে হত।
- স্কেলেবিলিটি চাপ: নতুন এআই গবেষণা দিকগুলির জন্য ঘন স্থানীয় NVMe স্টোরেজ এবং উচ্চ-ব্যান্ডউইথ নেটওয়ার্কিংয়ের প্রয়োজন ছিল যা পুরানো প্ল্যাটফর্মটি সমর্থন করতে পারত না।
- ব্যবস্থাপনা: হার্ডওয়্যারের মিশ্র প্রজন্ম ফার্মওয়্যার প্যাচিং, পর্যবেক্ষণ এবং দূরবর্তী সমস্যা সমাধানকে ক্রমবর্ধমানভাবে ম্যানুয়াল এবং ত্রুটি-প্রবণ করে তুলেছিল।
- বাজেট জবাবদিহিতা: একটি পাবলিক প্রতিষ্ঠান হিসাবে, বিশ্ববিদ্যালয়টির একটি অনুমানযোগ্য মোট মালিকানা ব্যয় এবং একটি স্পষ্ট বহু-বছরের জীবনচক্র সহ একটি সমাধানের প্রয়োজন ছিল।
সমাধান: HPE ProLiant DL380 Gen11
একটি প্রতিযোগিতামূলক প্রযুক্তিগত মূল্যায়নের পরে, বিশ্ববিদ্যালয়টি HPE ProLiant DL380 Gen11 2U র্যাক সার্ভারে স্ট্যান্ডার্ডাইজ করেছে। প্ল্যাটফর্মটি কম্পিউট ঘনত্ব, মেমরি ব্যান্ডউইথ, শক্তি দক্ষতা এবং দীর্ঘমেয়াদী সরবরাহ স্থিতিশীলতার ভারসাম্যের জন্য নির্বাচিত হয়েছিল। সরবরাহকৃত কনফিগারেশনটি মিশ্র HPC এবং AI-ইনফারেন্স ওয়ার্কলোডগুলির জন্য টিউন করা হয়েছিল:
| উপাদান | কনফিগারেশন | কেন এটি গুরুত্বপূর্ণ |
|---|---|---|
| প্রসেসর | ডুয়াল 4র্থ জেন Intel® Xeon® স্কেলেবল প্রসেসর (প্রতিটি ৩২ কোর) | সমান্তরাল সিমুলেশন এবং ব্যাচ ইনফারেন্সের জন্য উচ্চতর কোর ঘনত্ব |
| মেমরি | ৫১২ জিবি ডিডিআর৫ আরডিআইএমএম, ১২-চ্যানেল আর্কিটেকচার | বড় ডেটাসেট এবং ইন-মেমরি অ্যানালিটিক্সের জন্য প্রশস্ত মেমরি ব্যান্ডউইথ |
| স্টোরেজ | ৮ × ৩.৮৪ টিবি এনভিএমই এসএসডি এইচপিই এমআর৪১৬আই কন্ট্রোলার সহ | প্রশিক্ষণ ডেটা এবং চেকপয়েন্টগুলির জন্য দ্রুত স্থানীয় স্ক্র্যাচ স্পেস |
| নেটওয়ার্কিং | ২ × ২৫ জিবিই প্লাস ডেডিকেটেড আইএলও ম্যানেজমেন্ট পোর্ট | কম-লেটেন্সি ক্লাস্টার ইন্টারকানেক্ট এবং আউট-অফ-ব্যান্ড কন্ট্রোল |
| পাওয়ার | ডুয়াল রিডান্ড্যান্ট ১৬০০ ওয়াট টাইটানিয়াম হট-প্লাগ সাপ্লাই | সর্বোচ্চ-স্তরের দক্ষতার রেটিং সহ রিডান্ডেন্সি |
| ব্যবস্থাপনা | ওয়ানভিউ ইন্টিগ্রেশন সহ এইচপিই আইএলও ৬ | একক-পেন ফার্মওয়্যার, স্বাস্থ্য এবং জীবনচক্র ব্যবস্থাপনা |
স্থাপনা প্রক্রিয়া
রোলআউটটি চলমান গবেষণায় ব্যাঘাত কমিয়ে একটি চার-পর্যায়ের পরিকল্পনা অনুসরণ করেছিল:
- মূল্যায়ন: সিপিইউ, মেমরি এবং স্টোরেজ অনুপাতকে বাস্তব কাজের টেলিমেট্রির বিপরীতে পরিমাপ করার জন্য লিগ্যাসি ক্লাস্টারের ওয়ার্কলোড প্রোফাইলিং।
- স্টেজিং এবং বার্ন-ইন: প্রতিটি ইউনিট আমাদের সুবিধায় র্যাক করা, ক্যাবল করা, ফার্মওয়্যার-বেসলাইন করা এবং স্ট্রেস-টেস্ট করা হয়েছিল চালানের আগে, তাই অন-সাইট কাজটি ইনস্টলেশন এবং গ্রহণের মধ্যে সীমাবদ্ধ ছিল।
- মাইগ্রেশন: নতুন নোডগুলি বিদ্যমান স্লার্ম শিডিউলারের সাথে একটি পৃথক পার্টিশন হিসাবে যুক্ত করা হয়েছিল, যা গবেষকদের ডিকমিশনিং করার আগে পুরানো হার্ডওয়্যারের বিরুদ্ধে ফলাফল যাচাই করার অনুমতি দেয়।
- হ্যান্ডওভার: বিশ্ববিদ্যালয়ের আইটি এবং গবেষণা সহায়তা কর্মীদের জন্য একটি দুই দিনের প্রযুক্তিগত প্রশিক্ষণ সেশন আইএলও ৬ অপারেশন, ফার্মওয়্যার সম্মতি এবং ব্যর্থতা ডায়াগনস্টিকস কভার করেছে।
ফলাফল
কমিশনিংয়ের পরে, বিশ্ববিদ্যালয়টি তার মূল গবেষণা কর্মপ্রবাহে পরিমাপযোগ্য উন্নতির কথা জানিয়েছে:
- ৩.৪× উচ্চতর থ্রুপুট পূর্ববর্তী প্রজন্মের নোডগুলির তুলনায় সমান্তরাল সিমুলেশন কাজগুলিতে।
- প্রতিটি কম্পিউট কোরের জন্য বিদ্যুৎ খরচ ২৮% পর্যন্ত কম, বিদ্যমান সার্ভার-রুমের বৈদ্যুতিক বাজেটের উপর চাপ কমিয়েছে।
- কিউ অপেক্ষার সময় ৭0 ঘন্টার বেশি থেকে ৯ ঘন্টার কম হয়েছে পিক জমা দেওয়ার উইন্ডোগুলির সময়।
- স্থানীয় এনভিএমই স্ক্র্যাচ স্টোরেজ মধ্যবর্তী ডেটার জন্য শেয়ার্ড স্টোরেজ এরিয়া নেটওয়ার্কের উপর একটি দীর্ঘস্থায়ী নির্ভরতা দূর করেছে।
- প্রথম ছয় মাসের উৎপাদন অপারেশনে শূন্য অপ্রত্যাশিত ডাউনটাইম, রিডান্ডেন্ট পাওয়ার এবং ভবিষ্যদ্বাণীমূলক ড্রাইভ মনিটরিং দ্বারা সমর্থিত।
গ্রাহকের প্রতিক্রিয়া
"DL380 Gen11 প্ল্যাটফর্মটি আমাদের সার্ভার-রুম পুনর্নির্মাণ না করেই প্রয়োজনীয় ঘনত্ব দিয়েছে। প্রি-কনফিগার করা, বার্ন-ইন পরীক্ষিত ডেলিভারি মানে আমাদের দল হার্ডওয়্যার ইন্টিগ্রেশনের পরিবর্তে গবেষকদের সহায়তা করার উপর মনোযোগ দিতে পেরেছে," বিশ্ববিদ্যালয়ের তথ্য প্রযুক্তি কেন্দ্রের ডেপুটি ডিরেক্টর বলেছেন।
উপসংহার
এই স্থাপনাটি দেখায় কিভাবে একটি সাবধানে নির্দিষ্ট HPE ProLiant DL380 Gen11 প্ল্যাটফর্ম একটি বিদ্যমান ক্যাম্পাস ডেটা সেন্টারের ব্যবহারযোগ্য জীবন প্রসারিত করতে পারে এবং একই সাথে নতুন এআই এবং এইচপিসি গবেষণা ক্ষমতা আনলক করতে পারে। বিশ্ববিদ্যালয় এবং গবেষণা প্রতিষ্ঠানগুলির জন্য যারা অনুরূপ সীমাবদ্ধতার সম্মুখীন হচ্ছে - পাওয়ার সিলিং, মিশ্র ওয়ার্কলোড এবং কঠোর বাজেট জবাবদিহিতা - একটি স্ট্যান্ডার্ডাইজড, লাইফসাইকেল-পরিচালিত র্যাক সার্ভার প্ল্যাটফর্ম বিঘ্ন ছাড়াই আধুনিকীকরণের একটি ব্যবহারিক পথ সরবরাহ করে।
বিশ্ববিদ্যালয়ের অনুরোধে ক্লায়েন্টের পরিচয় বেনামী করা হয়েছে। কনফিগারেশন বিবরণ সরবরাহকৃত বিল অফ মেটেরিয়ালস প্রতিফলিত করে।