NVIDIA H200 141GB HBM3e GPU με εύρος ζώνης 4,8 TB ανά δευτερόλεπτο
Το NVIDIA H200 NVL αντιπροσωπεύει την τελευταία εξέλιξη της αρχιτεκτονικής Hopper, σχεδιασμένη ειδικά για την αντιμετώπιση των πιο απαιτητικών φορτίων εργασίας μεγάλου μοντέλου γλώσσας (LLM) και γενετικών καθηκόντων AI.Ως η πρώτη GPU που διαθέτει μνήμη HBM3e, το H200 NVL καθιερώνει ένα νέο σημείο αναφοράς για τις επιδόσεις των κέντρων δεδομένων,Παρέχοντας άνευ προηγουμένου εύρος ζώνης μνήμης και ικανότητα επιτάχυνσης τόσο της εκπαίδευσης όσο και της συμπερίληψης για μοντέλα με εκατοντάδες δισεκατομμύρια παραμέτρους.
Αυτή η λύση βασισμένη σε PCIe φέρνει τη δύναμη των πιο προηγμένων επιταχυντών τεχνητής νοημοσύνης της NVIDIA στην κύρια υποδομή διακομιστών, προσφέροντας μια απρόσκοπτη πορεία αναβάθμισης για τις υπάρχουσες αναπτύξεις H100.
| Μνήμη | 141 GB HBM3e |
|---|---|
| Διάταξη ζώνης μνήμης | 40,8 TB/s |
| Κύκλοι CUDA | 14,592 |
| Κέντρα τεντορίων | 456 τέταρτη γενιά |
| Διασύνδεση | PCIe 5.0 x16 |
| NVLink εύρος ζώνης | Μέχρι 900 GB/s |
| Φόρμα | Δύο τρύπες, πλήρους ύψους με παθητική ψύξη |
| Κατανάλωση ενέργειας | 600W τυπικό (700W κορυφή) |
- Τεχνολογία GPU πολλαπλών περιπτώσεων (MIG) για ασφαλή διαχωρισμό σε έως επτά απομονωμένες περιπτώσεις
- Το Transformer Engine παρέχει έως και 9 φορές ταχύτερη εκπαίδευση τεχνητής νοημοσύνης για μεγάλα γλωσσικά μοντέλα
- Υποστήριξη ακρίβειας FP8 έως 1.979 TFLOPS
- Δυναμικότητα FP64 με 34 TFLOPS
- Βελτιστοποιημένο για περιβάλλοντα κέντρων δεδομένων με βελτιστοποιημένη ράκα
Το NVIDIA H200 NVL είναι ιδανικό για συμπεράσματα τεχνητής νοημοσύνης, προσομοιώσεις HPC, επιστημονικές εφαρμογές υπολογιστών,και τα πιο απαιτητικά γενετικά φορτία εργασίας τεχνητής νοημοσύνης που απαιτούν εξαιρετικό εύρος ζώνης μνήμης και υπολογιστική ισχύ.
GPU μνήμης hbm3e
,GPU μνήμης 141gb
,GPU σταθμού εργασίας 141gb
-
Xeon Silver 4514Y 5η γενιά αναβαθμιζόμενος επεξεργαστής με 16 πυρήνες DDR5 Υποστήριξη μνήμης 150W TDP
Intel Xeon Silver 4514Y: CPU διακομιστή 16 πυρήνων με 32 νήματα, 3,4 GHz turbo, μνήμη DDR5-4400, PCIe 5.0 και προηγμένα χαρακτηριστικά ασφαλείας, όπως TDX και AMX για βελτιστοποιημένη απόδοση κέντρου δεδομένων. -
Επεξεργαστής Intel Xeon Platinum 8592+ με 64 πυρήνες, κρυφή μνήμη L3 320 MB και TDP 350W για Υπολογιστική Υψηλής Απόδοσης
Intel Xeon Platinum 8592+: 64 πυρήνες, 128 threads, 320MB cache. Ιδανικό για HPC, συμπέρασμα AI και εικονικοποίηση μεγάλης κλίμακας. Διαθέτει Intel AMX, τεχνολογία ασφαλείας και PCIe 5.0 για απαιτητικούς φόρτους εργασίας στο κέντρο δεδομένων. -
Intel Xeon 6740P επεξεργαστής με 48 πυρήνες 270W TDP και υποστήριξη μνήμης DDR5
Intel Xeon 6740P: 48 E-cores, 96 threads για κέντρα δεδομένων υψηλής πυκνότητας. Διαθέτει 48MB L3 cache, υποστήριξη DDR5-6400, 88 λωρίδες PCIe 5.0 και ενσωματωμένους επιταχυντές. Βελτιστοποιημένο για εγγενείς φόρτους εργασίας στο cloud, εικονικοποίηση και ανώτερη απόδοση ανά watt.