NVIDIA H200 141GB HBM3e Memory GPU với 4,8 TB mỗi giây Bandwidth

Tóm tắt sản phẩm
GPU NVIDIA H200: bộ nhớ HBM3e 141GB, băng thông 4,8TB/s. Lý tưởng cho các mẫu AI lớn với 14.592 lõi CUDA, PCIe 5.0 và công suất 600W. Tính năng Transformer Engine để đào tạo nhanh hơn 9 lần.
Thuộc tính cơ bản
Tên thương hiệu: NVIDIA
Số mô hình: 900-21010-0040-000
Giao dịch Bất động sản
Số lượng đặt hàng tối thiểu: 10
Giá: 25000USD
Điều khoản thanh toán: T/T
Mô tả sản phẩm
GPU NVIDIA H200 141GB PCIe
Tổng quan sản phẩm

NVIDIA H200 NVL là sự phát triển mới nhất của kiến trúc Hopper, được thiết kế đặc biệt để xử lý các tác vụ mô hình ngôn ngữ lớn (LLM) và AI tạo sinh đòi hỏi khắt khe nhất. Là GPU đầu tiên tích hợp bộ nhớ HBM3e, H200 NVL thiết lập một tiêu chuẩn mới về hiệu suất trung tâm dữ liệu, mang lại băng thông bộ nhớ và dung lượng chưa từng có để tăng tốc cả quá trình huấn luyện và suy luận cho các mô hình có hàng trăm tỷ tham số.

NVIDIA MPN: 900-21010-0040-000 (NVH200NVLTCGPU-KIT)

Giải pháp dựa trên PCIe này mang sức mạnh của các bộ tăng tốc AI tiên tiến nhất của NVIDIA đến cơ sở hạ tầng máy chủ phổ thông, cung cấp lộ trình nâng cấp liền mạch cho các triển khai H100 hiện có.

Thông số kỹ thuật chính
Bộ nhớ 141 GB HBM3e
Băng thông bộ nhớ 4.8 TB/s
Nhân CUDA 14.592
Nhân Tensor 456 thế hệ thứ tư
Giao diện PCIe 5.0 x16
Băng thông NVLink Lên đến 900 GB/s
Yếu tố hình thức Khe kép, chiều cao đầy đủ với tản nhiệt thụ động
Tiêu thụ điện năng 600W thông thường (700W đỉnh)
Tính năng nâng cao
  • Công nghệ GPU đa phiên bản (MIG) để phân chia an toàn thành tối đa bảy phiên bản độc lập
  • Transformer Engine mang lại hiệu suất huấn luyện AI nhanh hơn tới 9 lần cho các mô hình ngôn ngữ lớn
  • Hỗ trợ độ chính xác FP8 đạt tới 1.979 TFLOPS
  • Hiệu suất FP64 được đánh giá ở mức 34 TFLOPS
  • Tối ưu hóa cho môi trường trung tâm dữ liệu được tối ưu hóa cho tủ rack
Lĩnh vực ứng dụng

NVIDIA H200 NVL lý tưởng cho suy luận AI, mô phỏng HPC, các ứng dụng tính toán khoa học và các tác vụ AI tạo sinh đòi hỏi khắt khe nhất cần băng thông bộ nhớ và sức mạnh tính toán vượt trội.

Chi tiết sản phẩm
Làm nổi bật:

GPU bộ nhớ hbm3e

,

141GB bộ nhớ GPU

,

141GB GPU trạm làm việc

Mr. Sales

Sales Department

Sản phẩm liên quan
Gửi Yêu Cầu