NVIDIA H200 141GB HBM3e Memory GPU met 4,8 TB per seconde Bandbreedte

De NVIDIA H200 NVL vertegenwoordigt de nieuwste evolutie van de Hopper-architectuur, speciaal ontworpen om de meest veeleisende grote taalmodel (LLM) -werklasten en generatieve AI-taken aan te pakken.Als de eerste GPU met HBM3e geheugen, stelt de H200 NVL een nieuwe benchmark voor de prestaties van datacenters,het leveren van ongekende geheugenbandbreedte en capaciteit om zowel training als inferentie te versnellen voor modellen met honderden miljarden parameters.

Deze op PCIe gebaseerde oplossing brengt de kracht van NVIDIA's meest geavanceerde AI-versnellers naar de mainstream-serverinfrastructuur en biedt een naadloos upgradepad voor bestaande H100-implementaties.

• Multi-Instance GPU (MIG) technologie voor veilige partitiëring in maximaal zeven geïsoleerde instanties
• Transformer Engine levert tot 9x snellere AI-training voor grote taalmodellen
• FP8 precisiesteun tot 1.979 TFLOPS
• FP64-prestaties met 34 TFLOPS
• Geoptimaliseerd voor rack-geoptimaliseerde datacenteromgevingen

De NVIDIA H200 NVL is ideaal geschikt voor AI inferentie, HPC simulaties, wetenschappelijke computertoepassingen,en de meest veeleisende generatieve AI-werklasten die uitzonderlijke geheugenbandbreedte en rekenkracht vereisen.