NVIDIA H200 141GB HBM3e Memory GPU với 4,8 TB mỗi giây Bandwidth
NVIDIA H200 NVL là sự phát triển mới nhất của kiến trúc Hopper, được thiết kế đặc biệt để xử lý các tác vụ mô hình ngôn ngữ lớn (LLM) và AI tạo sinh đòi hỏi khắt khe nhất. Là GPU đầu tiên tích hợp bộ nhớ HBM3e, H200 NVL thiết lập một tiêu chuẩn mới về hiệu suất trung tâm dữ liệu, mang lại băng thông bộ nhớ và dung lượng chưa từng có để tăng tốc cả quá trình huấn luyện và suy luận cho các mô hình có hàng trăm tỷ tham số.
Giải pháp dựa trên PCIe này mang sức mạnh của các bộ tăng tốc AI tiên tiến nhất của NVIDIA đến cơ sở hạ tầng máy chủ phổ thông, cung cấp lộ trình nâng cấp liền mạch cho các triển khai H100 hiện có.
| Bộ nhớ | 141 GB HBM3e |
|---|---|
| Băng thông bộ nhớ | 4.8 TB/s |
| Nhân CUDA | 14.592 |
| Nhân Tensor | 456 thế hệ thứ tư |
| Giao diện | PCIe 5.0 x16 |
| Băng thông NVLink | Lên đến 900 GB/s |
| Yếu tố hình thức | Khe kép, chiều cao đầy đủ với tản nhiệt thụ động |
| Tiêu thụ điện năng | 600W thông thường (700W đỉnh) |
- Công nghệ GPU đa phiên bản (MIG) để phân chia an toàn thành tối đa bảy phiên bản độc lập
- Transformer Engine mang lại hiệu suất huấn luyện AI nhanh hơn tới 9 lần cho các mô hình ngôn ngữ lớn
- Hỗ trợ độ chính xác FP8 đạt tới 1.979 TFLOPS
- Hiệu suất FP64 được đánh giá ở mức 34 TFLOPS
- Tối ưu hóa cho môi trường trung tâm dữ liệu được tối ưu hóa cho tủ rack
NVIDIA H200 NVL lý tưởng cho suy luận AI, mô phỏng HPC, các ứng dụng tính toán khoa học và các tác vụ AI tạo sinh đòi hỏi khắt khe nhất cần băng thông bộ nhớ và sức mạnh tính toán vượt trội.
GPU bộ nhớ hbm3e
,141GB bộ nhớ GPU
,141GB GPU trạm làm việc
-
Bộ nhớ thông minh tiêu chuẩn Hpe P69982-B21 Dual Rank X4 DDR5-4800 1x128GB
P69982-B21 HPE 128GB (1x128GB) X4 DDR5-4800 CAS-40-39-39 EC8 Bộ nhớ thông minh đã đăng ký Bộ bộ nhớ thông minh HPE 128GB P69982-B21 là một mô-đun bộ nhớ DDR5 mật độ cao cấp doanh nghiệp được thiết kế độc quyền cho nền tảng máy chủ HPE ProLiant Gen11.Được thiết kế để hỗ trợ khối lượng công việc sử d... -
Bộ xử lý máy chủ Xeon Silver 4410Y với 12 lõi 24 luồng và TDP 150W
Xeon Silver 4410Y: CPU máy chủ 12 nhân tốc độ 3,9 GHz, bộ nhớ DDR5, PCIe 5.0 và bảo mật nâng cao. Lý tưởng cho các trung tâm dữ liệu đám mây, ảo hóa và tiết kiệm chi phí. -
Bộ xử lý máy chủ Xeon Gold 6430 với 32 lõi 64 luồng Tăng tốc lên đến 3.40 GHz
Xeon Gold 6430: bộ xử lý máy chủ 32 nhân tốc độ 3,4 GHz, bộ nhớ đệm 60 MB & TDP 270W. Có DDR5, PCIe 5.0, tăng tốc AI (AMX/DL Boost) và bảo mật nâng cao cho khối lượng công việc ảo hóa, đám mây và sử dụng nhiều dữ liệu của doanh nghiệp.