NVIDIA H200 141GB HBM3e Memory GPU với 4,8 TB mỗi giây Bandwidth
NVIDIA H200 NVL là sự phát triển mới nhất của kiến trúc Hopper, được thiết kế đặc biệt để xử lý các tác vụ mô hình ngôn ngữ lớn (LLM) và AI tạo sinh đòi hỏi khắt khe nhất. Là GPU đầu tiên tích hợp bộ nhớ HBM3e, H200 NVL thiết lập một tiêu chuẩn mới về hiệu suất trung tâm dữ liệu, mang lại băng thông bộ nhớ và dung lượng chưa từng có để tăng tốc cả quá trình huấn luyện và suy luận cho các mô hình có hàng trăm tỷ tham số.
Giải pháp dựa trên PCIe này mang sức mạnh của các bộ tăng tốc AI tiên tiến nhất của NVIDIA đến cơ sở hạ tầng máy chủ phổ thông, cung cấp lộ trình nâng cấp liền mạch cho các triển khai H100 hiện có.
| Bộ nhớ | 141 GB HBM3e |
|---|---|
| Băng thông bộ nhớ | 4.8 TB/s |
| Nhân CUDA | 14.592 |
| Nhân Tensor | 456 thế hệ thứ tư |
| Giao diện | PCIe 5.0 x16 |
| Băng thông NVLink | Lên đến 900 GB/s |
| Yếu tố hình thức | Khe kép, chiều cao đầy đủ với tản nhiệt thụ động |
| Tiêu thụ điện năng | 600W thông thường (700W đỉnh) |
- Công nghệ GPU đa phiên bản (MIG) để phân chia an toàn thành tối đa bảy phiên bản độc lập
- Transformer Engine mang lại hiệu suất huấn luyện AI nhanh hơn tới 9 lần cho các mô hình ngôn ngữ lớn
- Hỗ trợ độ chính xác FP8 đạt tới 1.979 TFLOPS
- Hiệu suất FP64 được đánh giá ở mức 34 TFLOPS
- Tối ưu hóa cho môi trường trung tâm dữ liệu được tối ưu hóa cho tủ rack
NVIDIA H200 NVL lý tưởng cho suy luận AI, mô phỏng HPC, các ứng dụng tính toán khoa học và các tác vụ AI tạo sinh đòi hỏi khắt khe nhất cần băng thông bộ nhớ và sức mạnh tính toán vượt trội.
GPU bộ nhớ hbm3e
,141GB bộ nhớ GPU
,141GB GPU trạm làm việc
-
Inspur NF5280M7 2U Rack Server với 4x 3.5 "Drive Bays 4/5th Gen Intel Xeon Processor có thể mở rộng
Inspur NF5280M7: Máy chủ 2U hiệu suất cao với Intel Xeon thế hệ thứ 4/5, 32 khe DDR5, PCIe 5.0 và 4x 3,5" khay trao đổi nóng. Có nền tảng phần cứng tin cậy, khởi động an toàn và quản lý nâng cao cho khối lượng công việc đòi hỏi khắt khe của doanh nghiệp. -
Cáp SFP+ của Huawei SFP-10G-CU3M 10G Cáp đồng kết nối trực tiếp tốc độ cao với chiều dài 3m và hiệu quả năng lượng thụ động
Huawei Cable SFP-10G-CU3M SFP+,10G,High Speed Direct-attach Cables,3m Huawei SFP-10G-CU3M là bộ cáp hai trục đồng (DAC) kết nối trực tiếp 10 Gigabit Ethernet (10G) tầm ngắn, hiệu suất cao.cáp này kết thúc trước tính năng cố định SFP + (Small Form-factor Pluggable Plus) mô-đun thu nhập tích hợp vào c... -
H3C UniServer R4900 G5 Máy chủ rack 2U với bộ nhớ Intel Xeon có thể mở rộng 12TB
H3C UniServer R4900 G5: Máy chủ rack ổ cắm kép 2U với bộ xử lý Intel Xeon có thể mở rộng thế hệ thứ 3, bộ nhớ DDR4 lên đến 12TB. Nhiều cấu hình lưu trữ (12LFF/24SFF/8LFF) hỗ trợ ổ đĩa SAS/SATA/NVMe. Có 14 khe cắm PCIe 4.0, hỗ trợ GPU và kết nối mạng toàn diện.