English
Français
Deutsch
Italiano
Русский
Español
Português
Nederlandse
日本語
한국
العربية
हिन्दी
Türkçe
Indonesia
Tiếng Việt
ไทย
বাংলা
فارسی
Polski
NVIDIA H100 NVL 94GB GPU με αρχιτεκτονική Hopper και PCIe 5.0 x16
Σύνοψη του προϊόντος
Η GPU NVIDIA H100 NVL 94 GB προσφέρει 12 φορές ταχύτερη απόδοση LLM έναντι του A100, με μνήμη HBM3 188 GB σε διπλές ρυθμίσεις παραμέτρων. Ιδανικό για μοντέλα GPT-175B, με Transformer Engine και PCIe 5.0 για αποτελεσματική εξαγωγή συμπερασμάτων AI και εκπαίδευση σε τυπικούς διακομιστές.
Βασικές Ιδιότητες
Επωνυμία Μάρκας:
NVIDIA
Αριθμός μοντέλου:
900-21010-0020-000
Εμπορικά Ακίνητα
Ελάχιστη ποσότητα παραγγελίας:
10
Τιμή:
24000USD
Όροι πληρωμής:
T/T
Περιγραφή προϊόντων
NVIDIA H100 NVL 94GB GPU
NVIDIA MPN: 900-21010-0020-000
Το NVIDIA H100 NVL 94GB GPU είναι ειδικά κατασκευασμένο για να εκδημοκρατίσει τη συμπερίληψη και την εκπαίδευση μεγάλου μοντέλου γλώσσας (LLM) φέρνοντας τη δύναμη της αρχιτεκτονικής Hopper στα κύρια συστήματα διακομιστών με βάση το PCIe.Αυτή η εξειδικευμένη παραλλαγή αντιμετωπίζει τις μοναδικές απαιτήσεις μνήμης και υπολογισμού μοντέλων έως 175 δισεκατομμυρίων παραμέτρων, όπως το GPT-175B,Παρέχοντας εξαιρετικές επιδόσεις, διατηρώντας παράλληλα την επιχειρησιακή αποτελεσματικότητα σε περιβάλλοντα κέντρων δεδομένων με περιορισμένη ισχύ.
Όταν αναπτύσσεται σε διαμορφώσεις διπλής GPU που συνδέονται μέσω γεφυρών NVLink, η H100 NVL παρέχει 188 GB συνδυασμένης μνήμης HBM3, επιτρέποντας αποτελεσματικά στο ζεύγος GPU να λειτουργεί ως ενιαία δεξαμενή μνήμης.
Τεχνικές προδιαγραφές
Το H100 NVL διαθέτει 94 GB μνήμης HBM3, βελτιστοποιημένη για εντατικά μνήμη φορτία εργασίας συμπεράσματος και λεπτή ρύθμιση μεγάλων μοντέλων γλώσσας.Η GPU αξιοποιεί όλες τις δυνατότητες της αρχιτεκτονικής Hopper, συμπεριλαμβανομένου του Transformer Engine που επιταχύνει τις εργασίες LLM με υπολογιστές μικτής ακρίβειας.
Σε σύγκριση με τα συστήματα προηγούμενης γενιάς, οι διακομιστές που είναι εξοπλισμένοι με GPU H100 NVL αποδεικνύουν έως και 12 φορές υψηλότερες επιδόσεις στα μοντέλα GPT-175B από τις ρυθμίσεις NVIDIA DGX A100,με σημαντικά βελτιωμένα χαρακτηριστικά καθυστέρησηςΗ κάρτα συνδέεται μέσω PCIe 5.0 x16 και υποστηρίζει την τεχνολογία NVLink μέσω γέφυρων.που επιτρέπει επικοινωνία GPU-GPU με εξαιρετικά υψηλό εύρος ζώνης, απαραίτητη για την κλιμάκωση του παράλληλου μοντέλου σε πολλούς επιταχυντές.
Σχεδιασμός και συμβατότητα
Σχεδιασμένο για τη χρήση σε κέντρα δεδομένων, το H100 NVL υιοθετεί έναν παράγοντα μορφής διπλής τρύπας με επιλογές ενεργού ή παθητικού ψύξης ανάλογα με τη διαμόρφωση OEM.Η GPU είναι πλήρως συμβατή με το λογισμικό της NVIDIA, συμπεριλαμβανομένων του CUDA, του TensorRT και της σουίτας NVIDIA AI Enterprise, εξασφαλίζοντας απρόσκοπτη ενσωμάτωση σε υφιστάμενους αγωγούς τεχνητής νοημοσύνης.
Οι βασικές εφαρμογές περιλαμβάνουν συμπεράσματα σε πραγματικό χρόνο για συνομιλική τεχνητή νοημοσύνη, λεπτή ρύθμιση μοντέλων και φόρτους εργασίας αναζήτησης με αυξημένη γενιά (RAG).Επιδόσεις υπολογισμού, και αποδοτικότητα ενέργειας, the H100 NVL represents the optimal entry point for organizations seeking to operationalize large language models across their infrastructure without the complexity or cost of high-density SXM-based systems.
Λεπτομέρειες προιόντος
Επισημαίνω:
Nvidia H100 PCI GPU
,94GB PCI GPU
,PCIe 5.0 x16 GPU
Συγγενικά προϊόντα
-
P40505-B21 HPE 3,84TB SATA 6G Μικτής Χρήσης Enterprise SSD με υποστήριξη πολλαπλών προμηθευτών
HPE 3,84 TB SATA SSD για μικτό φόρτο εργασίας. Παρέχει αντοχή 1,9 DWPD, IOPS εγγραφής 45K και διασφάλιση προμήθειας πολλών προμηθευτών. Ιδανικό για εικονικοποίηση, βάσεις δεδομένων και OLTP με ισορροπημένη απόδοση ανάγνωσης/εγγραφής. -
Επεξεργαστής διακομιστή Xeon Gold 6444Y με 28 πυρήνες 56 νήματα 4.00 GHz Max Turbo
Xeon Gold 6444Y: CPU διακομιστή 28 πυρήνων με Turbo 4,0 GHz, 56MB cache & 205W TDP. Διαθέτει PCIe 5.0, μνήμη DDR5, επιτάχυνση AI (AMX/DL Boost) και προηγμένη εικονικοποίηση για σύννεφο, βάσεις δεδομένων και φόρτους εργασίας με μεγάλη ένταση δεδομένων. -
Επεξεργαστής διακομιστή Xeon Bronze 3508U με 8 πυρήνες, υποστήριξη μνήμης DDR5, 125W TDP
Xeon Bronze 3508U: CPU διακομιστή 8 πυρήνων με βασική συχνότητα 2,1 GHz, 125 W TDP, υποστήριξη μνήμης DDR5, PCIe 5.0 και προηγμένα χαρακτηριστικά ασφαλείας. Ιδανικό για διακομιστές αρχικού επιπέδου, υπολογιστές αιχμής και πλατφόρμες αποθήκευσης.
