NVIDIA H200 141GB HBM3e 메모리 GPU 초당 4.8 TB 대역폭

Name: NVIDIA H200 141GB HBM3e 메모리 GPU 초당 4.8 TB 대역폭
Brand: Heron Technology Co., LTD.
SKU: 900-21010-0040-000
Price: 25000 USD
Availability: InStock

제품 요약

NVIDIA H200 GPU: 141GB HBM3e 메모리, 4.8TB/s 대역폭. 14,592개의 CUDA 코어, PCIe 5.0 및 600W 전력을 갖춘 대규모 AI 모델에 이상적입니다. 9배 더 빠른 훈련을 위한 Transformer Engine을 갖추고 있습니다.

기본 특성

브랜드 이름: NVIDIA

모델 번호: 900-21010-0040-000

부동산 거래

최소 주문 수량: 10

가격: 25000USD

지불 조건: 티/티

태그:

NVIDIA H200 NVL는 가장 까다로운 대규모 언어 모델 (LLM) 워크로드와 생성 AI 작업을 처리하기 위해 특별히 설계된 Hopper 아키텍처의 최신 진화를 나타냅니다.HBM3e 메모리를 탑재한 최초의 GPU, H200 NVL는 데이터 센터 성능에 대한 새로운 기준을 설정합니다.전례 없는 메모리 대역폭과 수백억 개의 매개 변수를 가진 모델의 훈련과 추론을 가속화할 수 있는 역량을 제공합니다..

NVIDIA MPN: 900-21010-0040-000 (NVH200NVLTCGPU-KIT)

이 PCIe 기반 솔루션은 NVIDIA의 가장 진보된 AI 가속기의 힘을 주류 서버 인프라에 적용하여 기존 H100 배포에 대한 원활한 업그레이드 경로를 제공합니다.

주요 사양

기억력	141 GB HBM3e
메모리 대역폭	4.8 TB/s
CUDA 코어	14,592
텐서 코어	456 4세대
인터페이스	PCIe 5.0 x16
NVLink 대역폭	최대 900 GB/s
형태 요인	2개의 슬롯, 전체 높이, 수동 냉각
전력 소비	600W 전형적인 (700W 최고)

고급 기능

최대 7개의 단독 인스턴스로의 안전한 파티션을 위한 멀티 인스턴스 GPU (MIG) 기술
트랜스포머 엔진은 큰 언어 모델을 위한 9배 빠른 인공지능 훈련을 제공합니다.
FP8 정확도 지원 1,979 TFLOPS까지
FP64 성능 34 TFLOPS
랙 최적화된 데이터 센터 환경에 최적화

응용 분야

NVIDIA H200 NVL는 인공지능 추론, HPC 시뮬레이션, 과학 컴퓨팅 애플리케이션,그리고 가장 까다로운 생성 AI 작업 부하에 특별한 메모리 대역폭과 컴퓨팅 파워가 필요합니다..

제품 상세정보

강조하다:

hbm3e 메모리 GPU

141GB 메모리 GPU

141GB 워크스테이션 GPU

Mr. Sales

Sales Department

이메일: enquiry@herontech.co
Tel: +852-57498492

NVIDIA H200 141GB HBM3e 메모리 GPU 초당 4.8 TB 대역폭

워크스테이션 GPU

pcie gpu

전문가용 그래픽 카드

hbm3e 메모리 GPU

141GB 메모리 GPU

141GB 워크스테이션 GPU

Mr. Sales

AMD EPYC™ 9124 프로세서 (16코어, 3.0GHz 기본 클럭, 200W TDP)

Xeon Gold 5420+ 서버 CPU, 28코어 4.10GHz 터보 및 DDR5 메모리

AMD EPYCTM 9554 프로세서 64 코어 3.1 GHz 기본 시계 및 128 PCIe 5.0 레인