NVIDIA H200 141GB HBM3e Memory GPU với 4,8 TB mỗi giây Bandwidth
NVIDIA H200 NVL là sự phát triển mới nhất của kiến trúc Hopper, được thiết kế đặc biệt để xử lý các tác vụ mô hình ngôn ngữ lớn (LLM) và AI tạo sinh đòi hỏi khắt khe nhất. Là GPU đầu tiên tích hợp bộ nhớ HBM3e, H200 NVL thiết lập một tiêu chuẩn mới về hiệu suất trung tâm dữ liệu, mang lại băng thông bộ nhớ và dung lượng chưa từng có để tăng tốc cả quá trình huấn luyện và suy luận cho các mô hình có hàng trăm tỷ tham số.
Giải pháp dựa trên PCIe này mang sức mạnh của các bộ tăng tốc AI tiên tiến nhất của NVIDIA đến cơ sở hạ tầng máy chủ phổ thông, cung cấp lộ trình nâng cấp liền mạch cho các triển khai H100 hiện có.
| Bộ nhớ | 141 GB HBM3e |
|---|---|
| Băng thông bộ nhớ | 4.8 TB/s |
| Nhân CUDA | 14.592 |
| Nhân Tensor | 456 thế hệ thứ tư |
| Giao diện | PCIe 5.0 x16 |
| Băng thông NVLink | Lên đến 900 GB/s |
| Yếu tố hình thức | Khe kép, chiều cao đầy đủ với tản nhiệt thụ động |
| Tiêu thụ điện năng | 600W thông thường (700W đỉnh) |
- Công nghệ GPU đa phiên bản (MIG) để phân chia an toàn thành tối đa bảy phiên bản độc lập
- Transformer Engine mang lại hiệu suất huấn luyện AI nhanh hơn tới 9 lần cho các mô hình ngôn ngữ lớn
- Hỗ trợ độ chính xác FP8 đạt tới 1.979 TFLOPS
- Hiệu suất FP64 được đánh giá ở mức 34 TFLOPS
- Tối ưu hóa cho môi trường trung tâm dữ liệu được tối ưu hóa cho tủ rack
NVIDIA H200 NVL lý tưởng cho suy luận AI, mô phỏng HPC, các ứng dụng tính toán khoa học và các tác vụ AI tạo sinh đòi hỏi khắt khe nhất cần băng thông bộ nhớ và sức mạnh tính toán vượt trội.
GPU bộ nhớ hbm3e
,141GB bộ nhớ GPU
,141GB GPU trạm làm việc
-
Bộ phận máy chủ HPE P50400-B21 Bộ khung viền HPE Gen11 2U
Tổng quan về sản phẩm HPE: P50400-B21 HPE P50400-B21 là Bộ viền bảo mật giải phóng nhanh 2U cao cấp được thiết kế dành riêng cho các máy chủ được tối ưu hóa cho giá đỡ HPE ProLiant Gen11 2U. Thành phần phần cứng này tích hợp liền mạch tính thẩm mỹ mặt trước với khả năng bảo mật vật lý thiết yếu, ng... -
Xeon Gold 6548Y+ 32core Xeon máy xử lý máy chủ có thể mở rộng thế hệ thứ 5 với 250W TDP cho các trung tâm dữ liệu đám mây và Edge
CPU máy chủ Intel Xeon Gold 6548Y+ 32 nhân dành cho điện toán đám mây và biên. Có 64 luồng, tốc độ turbo 4,1 GHz, bộ nhớ DDR5-5200, PCIe 5.0 và công nghệ bảo mật/AI tiên tiến. Tối ưu hóa cho ảo hóa mật độ cao với TDP 250W. -
Bộ xử lý máy chủ Intel Xeon Gold 6538N với 32 lõi, bộ nhớ DDR5 5200 MT/S và Intel AMX để tăng tốc AI
Intel Xeon Gold 6538N: CPU máy chủ 32 nhân với xung nhịp 4,1 GHz, bộ nhớ đệm 60 MB và các tính năng bảo mật/AI nâng cao. Lý tưởng cho khối lượng công việc đám mây, HPC và doanh nghiệp sử dụng nhiều dữ liệu với bộ nhớ DDR5 và hỗ trợ PCIe 5.0.