GPU NVIDIA H200 с памятью HBM3e объемом 141 ГБ и пропускной способностью 4,8 ТБ/с

Резюме продукта
Графический процессор NVIDIA H200: 141 ГБ памяти HBM3e, пропускная способность 4,8 ТБ/с. Идеально подходит для крупных моделей искусственного интеллекта с 14 592 ядрами CUDA, PCIe 5.0 и мощностью 600 Вт. Особенности Transformer Engine для ускорения тренировок в 9 раз.
Основные свойства
Название бренда: NVIDIA
Номер модели: 900-21010-0040-000
Торговая недвижимость
Минимальное количество заказа: 10
Цена: 25000USD
Условия оплаты: Т/Т
Характер продукции
NVIDIA H200 141 ГБ ПКIe GPU
Обзор продукции

NVIDIA H200 NVL представляет собой последнюю эволюцию архитектуры Hopper, разработанную специально для решения самых требовательных рабочих нагрузок больших языковых моделей (LLM) и генеративных задач ИИ.Первый графический процессор с памятью HBM3e, H200 NVL устанавливает новый критерий производительности центра обработки данных,предоставление беспрецедентной пропускной способности памяти и возможности ускорить обучение и вывод для моделей со сотнями миллиардов параметров.

NVIDIA MPN: 900-21010-0040-000 (NVH200NVLTCGPU-KIT)

Это PCIe-основанное решение приносит мощь самых передовых ускорителей ИИ NVIDIA в основную серверную инфраструктуру, предлагая бесперебойный путь обновления для существующих развертываний H100.

Основные характеристики
Память 141 ГБ HBM3e
Пропускная способность памяти 40,8 ТБ/с
Ядра CUDA 14,592
Тензорные ядра 456 четвертого поколения
Интерфейс PCIe 5.0 x16
Пропускная способность NVLink До 900 ГБ/с
Форма фактора Двухслойный, полной высоты с пассивным охлаждением
Потребление энергии Типичный 600 Вт (пик 700 Вт)
Усовершенствованные функции
  • Технология Multi-Instance GPU (MIG) для безопасного разделения до семи изолированных экземпляров
  • Трансформаторный двигатель обеспечивает до 9 раз быстрее обучение ИИ для больших языковых моделей
  • Поддержка точности FP8 до 1,979 TFLOPS
  • ФП64 с номинальной производительностью 34 TFLOPS
  • Оптимизирован для среды центра обработки данных с оптимальным расположением на стойке
Области применения

NVIDIA H200 NVL идеально подходит для выводов ИИ, HPC-симуляций, научных вычислительных приложений,и наиболее требовательные генеративные нагрузки ИИ, требующие исключительной пропускной способности памяти и вычислительной мощности.

Детали продукта
Выделить:

GPU с памятью HBM3e

,

GPU с памятью 141 ГБ

,

Графический процессор для рабочих станций объемом 141 ГБ

Mr. Sales

Sales Department

СОБЩЕННЫЕ ПРОДУКТЫ
  • Xeon Silver 4410Y серверный процессор с 12 ядрами, 24 потоками и 150 Вт TDP

    Xeon Silver 4410Y: 12-ядерный серверный процессор с турбонаддувом 3,9 ГГц, памятью DDR5, PCIe 5.0 и повышенной безопасностью. Идеально подходит для облака, виртуализации и экономичных центров обработки данных.
  • Xeon Platinum 8580 Процессор с 60 ядрами 120 потоками и 300 МБ L3 кэшем

    Intel Xeon Platinum 8580: 60 ядер, 120 потоков, максимальная частота 4,0 ГГц в турборежиме. Идеально подходит для высокопроизводительных вычислений, искусственного интеллекта, виртуализации и критически важных корпоративных рабочих нагрузок благодаря повышенной безопасности и поддержке памяти DDR5.
  • Процессор AMD EPYC™ 9534 с 64 ядрами, TDP 280 Вт и архитектурой Zen 4

    AMD EPYC™ 9534: 64-ядерный процессор Zen 4 с TDP 280 Вт, обеспечивающий исключительную производительность на ватт для энергоэффективных облачных развертываний. Имеет 128 линий PCIe 5.0 и 12-канальную память DDR5.
Отправить запрос