Chiński Uniwersytet wdraża serwery HPE ProLiant DL380 Gen11 do zasilania badań nad sztuczną inteligencją i obciążeń HPC
Przegląd projektu
Wiodący uniwersytet multidyscyplinarny w Chinach(nazwa klienta w celu zachowania poufności)zakończył wdrożenieHPE ProLiant DL380 Gen11Projekt zastępuje pięcioletni klaster z dwoma gniazdkami, który stał się wąskim gardłem dla sztucznej inteligencji uniwersytetu.obliczeniowa dynamika płynówPracując wraz z Centrum Technologii Informacyjnych uniwersytetu, dostarczyliśmy w pełni skonfigurowany, zintegrowany z półką,i przetestowana platforma burna-in, która teraz obsługuje więcej niż 1200 naukowców i studentów podyplomowych na dziewięciu wydziałach.
Wyzwanie
Przed modernizacją wspólny klaster uniwersytetu walczył o dotrzymanie kroku szybkiemu wzrostowi badań przyspieszonych przez GPU i intensywnie wykorzystujących dane.Główne punkty bolesne zgłoszone przez Centrum Informatyczne to::
- Nasycenie obliczeń:kolejki do pracy w poprzednich węzłach regularnie przekraczały 72 godziny w okresach szczytowych składania prac dyplomowych i dotacji.
- Limity mocy i chłodzenia:Istniejąca sala serwerów działała już blisko jej elektrycznego sufitu, więc każda nowa pojemność musiała dostarczać znacznie większą wydajność na wat.
- Ciśnienie skalowalności:Nowe kierunki badań nad sztuczną inteligencją wymagały gęstego lokalnego magazynu NVMe i sieci o dużej przepustowości, których stara platforma nie mogła obsłużyć.
- Zarządzalność:Mieszane generacje sprzętu sprawiły, że poprawianie oprogramowania, monitorowanie i zdalne rozwiązywanie problemów były coraz bardziej ręczne i podatne na błędy.
- Odpowiedzialność budżetowa:Jako instytucja publiczna, uniwersytet potrzebował rozwiązania z przewidywalnymi całkowitymi kosztami własności i wyraźnym wieloletnim cyklem życia.
Rozwiązanie: HPE ProLiant DL380 Gen11
Po konkurencyjnej ocenie technicznej uniwersytet zstandaryzowałHPE ProLiant DL380 Gen11Platforma została wybrana ze względu na równowagę gęstości obliczeń, przepustowości pamięci, efektywność energetyczną i długoterminową stabilność dostaw.Dostarczona konfiguracja została dostosowana do mieszanych obciążeń roboczych HPC i inferencji AI:
| Składnik | Konfiguracja | Dlaczego to ważne? |
|---|---|---|
| Procesor | Dwa procesory Intel® Xeon® skalowalne czwartej generacji (po 32 rdzeniach) | Większa gęstość rdzenia dla symulacji równoległej i wnioskowania serii |
| Pamięć | 512 GB DDR5 RDIMM, 12-kanałowa architektura | Szersza przepustowość pamięci do dużych zestawów danych i analizy w pamięci |
| Przechowywanie | 8 × 3,84 TB NVMe SSD z sterownikiem HPE MR416i | Szybki lokalny przestrzeni skraplacz dla danych szkoleniowych i punktów kontrolnych |
| Tworzenie sieci | 2 × 25 GbE plus dedykowany port zarządzania ILO | Połączenie klastrowe o niskim opóźnieniu i sterowanie poza pasmem |
| Władza | Podwójne nadmierne zasilanie tytanowe 1600 W | Zwolnienie z najwyższą klasą efektywności |
| Zarządzanie | HPE iLO 6 z integracją OneView | Firmware, zarządzanie stanem zdrowia i cyklem życia |
Proces wdrażania
Rozpoczęcie działań było zgodne z czteropasowym planem, który minimalizował zakłócenia w prowadzonych badaniach:
- Ocena:Profilizowanie obciążenia prawnego starego klastra do wielkości współczynników procesora, pamięci i pamięci masowej w stosunku do rzeczywistej telemetrii pracy.
- Zestawienie i włączanie:Każda jednostka została zainstalowana, przewodowana, wyposażona w oprogramowanie i przetestowana w naszych zakładach przed wysyłką, więc praca na miejscu była ograniczona do instalacji i przyjęcia.
- Migracja:Nowe węzły zostały dodane do istniejącego harmonogramu Slurm jako oddzielna partycja, umożliwiając badaczom weryfikację wyników w stosunku do starego sprzętu przed wycofaniem go z eksploatacji.
- Przekazanie:Dwu-dniowa sesja szkolenia technicznego dla pracowników IT i wsparcia badawczego uniwersytetu obejmowała operacje ILO 6, zgodność z oprogramowaniem stacjonarnym i diagnostykę awarii.
Wyniki
Po uruchomieniu uniwersytet odnotował wymierne ulepszenia w swoich podstawowych przepływach badawczych:
- 3.4x większa przepustowośćna pracach symulacyjnych równoległych w porównaniu z węzłami poprzedniej generacji.
- Do 28% mniejsze zużycie energii na rdzeń obliczeniowy, zmniejszając presję na istniejący budżet energii elektrycznej w serwerowni.
- Czas oczekiwania w kolejce zmniejszony z ponad 70 godzin do poniżej 9 godzinw okresie szczytowych okresów składania.
- Lokalne przechowywanie scratch NVMewyeliminowano długotrwałe uzależnienie od sieci wspólnego obszaru przechowywania danych pośrednich.
- Zero nieplanowanych przerw pracyw pierwszych sześciu miesiącach eksploatacji produkcji, wspierane przez monitorowanie nadmiernego zasilania i predykcyjne monitorowanie napędu.
Odpowiedzi klientów
Platforma DL380 Gen11 dała nam gęstość, której potrzebowaliśmy bez konieczności przebudowy serwerowni./Wykonanie testów /zapewniło naszym pracownikom /możliwość wspierania badaczy zamiast integracji sprzętowej- powiedział zastępca dyrektora Centrum Technologii Informacyjnych.
Wniosek
Wdrożenie to pokazuje, jak starannie określonyHPE ProLiant DL380 Gen11platforma może wydłużyć żywotność istniejącego centrum danych kampusu, jednocześnie otwierając nowe możliwości badawcze AI i HPC.W przypadku uczelni wyższych i instytutów badawczych z podobnymi ograniczeniami ̇ pułapy mocy, mieszane obciążenia pracą i rygorystyczna odpowiedzialność budżetowa ̇ standaryzowana, zarządzana cyklem życia platforma serwerów rack oferuje praktyczną drogę do modernizacji bez zakłóceń.
Tożsamość klienta została anonimowa na prośbę uniwersytetu.