GPU NVIDIA H200 с памятью HBM3e объемом 141 ГБ и пропускной способностью 4,8 ТБ/с
NVIDIA H200 NVL представляет собой последнюю эволюцию архитектуры Hopper, разработанную специально для решения самых требовательных рабочих нагрузок больших языковых моделей (LLM) и генеративных задач ИИ.Первый графический процессор с памятью HBM3e, H200 NVL устанавливает новый критерий производительности центра обработки данных,предоставление беспрецедентной пропускной способности памяти и возможности ускорить обучение и вывод для моделей со сотнями миллиардов параметров.
Это PCIe-основанное решение приносит мощь самых передовых ускорителей ИИ NVIDIA в основную серверную инфраструктуру, предлагая бесперебойный путь обновления для существующих развертываний H100.
| Память | 141 ГБ HBM3e |
|---|---|
| Пропускная способность памяти | 40,8 ТБ/с |
| Ядра CUDA | 14,592 |
| Тензорные ядра | 456 четвертого поколения |
| Интерфейс | PCIe 5.0 x16 |
| Пропускная способность NVLink | До 900 ГБ/с |
| Форма фактора | Двухслойный, полной высоты с пассивным охлаждением |
| Потребление энергии | Типичный 600 Вт (пик 700 Вт) |
- Технология Multi-Instance GPU (MIG) для безопасного разделения до семи изолированных экземпляров
- Трансформаторный двигатель обеспечивает до 9 раз быстрее обучение ИИ для больших языковых моделей
- Поддержка точности FP8 до 1,979 TFLOPS
- ФП64 с номинальной производительностью 34 TFLOPS
- Оптимизирован для среды центра обработки данных с оптимальным расположением на стойке
NVIDIA H200 NVL идеально подходит для выводов ИИ, HPC-симуляций, научных вычислительных приложений,и наиболее требовательные генеративные нагрузки ИИ, требующие исключительной пропускной способности памяти и вычислительной мощности.
GPU с памятью HBM3e
,GPU с памятью 141 ГБ
,Графический процессор для рабочих станций объемом 141 ГБ
-
Xeon Silver 4410Y серверный процессор с 12 ядрами, 24 потоками и 150 Вт TDP
Xeon Silver 4410Y: 12-ядерный серверный процессор с турбонаддувом 3,9 ГГц, памятью DDR5, PCIe 5.0 и повышенной безопасностью. Идеально подходит для облака, виртуализации и экономичных центров обработки данных. -
Xeon Platinum 8580 Процессор с 60 ядрами 120 потоками и 300 МБ L3 кэшем
Intel Xeon Platinum 8580: 60 ядер, 120 потоков, максимальная частота 4,0 ГГц в турборежиме. Идеально подходит для высокопроизводительных вычислений, искусственного интеллекта, виртуализации и критически важных корпоративных рабочих нагрузок благодаря повышенной безопасности и поддержке памяти DDR5. -
Процессор AMD EPYC™ 9534 с 64 ядрами, TDP 280 Вт и архитектурой Zen 4
AMD EPYC™ 9534: 64-ядерный процессор Zen 4 с TDP 280 Вт, обеспечивающий исключительную производительность на ватт для энергоэффективных облачных развертываний. Имеет 128 линий PCIe 5.0 и 12-канальную память DDR5.