96 GB GDDR7 Bellekli NVIDIA RTX PRO 6000 Blackwell Sunucu Optimize Edilmiş GPU

NVIDIA RTX PRO 6000 Blackwell Sunucu Sürümü, veri merkezi ortamları, yüksek performanslı bilgi işlem (HPC) kümeleri ve büyük ölçekli yapay zeka çıkarım düğümleri için özel olarak tasarlanmış, amiral gemisi profesyonel GPU'nun başsız, raf tipi optimize edilmiş bir çeşididir.

İş istasyonu muadiliyle karşılaştırıldığında, bu sürüm uzaktan yönetim, önden arkaya hava akışı ve termal verimliliğin öncelikli olduğu sunucu raflarında 7/24 çalışma için tasarlanmıştır. Yapay zeka iş yüklerini ölçeklendiren, Llama 3 70B gibi büyük dil modellerini çalıştıran ve sanallaştırılmış veya bulut tabanlı üretim hatlarında yüksek doğrulukta oluşturma gerektiren kuruluşları hedefler.

Bu sunucu sürümü, RTX PRO 6000'in temel hesaplama DNA'sını paylaşır ve şunları içerir:

• ECC'li 96 GB GDDR7 bellek
• Tam GB202 GPU yonga yapılandırması
• Başsız çalışma (aktif ekran çıkışı yok)
• Raf tipi dağıtımlar için optimize edilmiştir
• İzole edilmiş örneklere bölmek için Çoklu Örnek GPU (MIG) desteği

8x GPU sunucuları gibi çoklu GPU yapılandırmalarında, devasa paralelleştirme gerektiren eğitim ve çıkarım görevleri için muazzam birleşik bellek havuzları (700 GB'ın üzerinde) ve hesaplama yoğunluğu sunar.

Sunucu Sürümündeki bellenim, güç ve termal profiller, bir iş zamanlayıcı altında sürekli iş yükleri için özel olarak ayarlanmıştır. Genellikle sorunsuz ölçeklendirmeyi kolaylaştırmak için NVIDIA AI Enterprise yazılımı ve kapsayıcı düzenleme araçlarıyla birlikte dağıtılır.

Kart, bağımsız kule soğutması yerine sunucu şasisi hava akışı düzenleri için uyarlanmış pasif veya aktif bir termal çözüm kullanır. Özel veri merkezleri oluşturan veya bulut GPU örneklerinden yararlanan kuruluşlar için RTX PRO 6000 Sunucu Sürümü, bilimsel simülasyon, üretken yapay zeka ve sanal masaüstü altyapısı (VDI) genelinde ölçeklenebilir, kurumsal düzeyde hızlandırma için altın standarttır.