• DGX H100
  • DGX H100

DGX H100

NVIDIA DGX™ H100 拓展創新與最佳化的極限。DGX H100 擁有 NVIDIA 經典 DGX 系統的最新迭代和 NVIDIA DGX SuperPOD™ 的基礎,並且以 NVIDIA H100 Tensor 核心 GPU 突破性效能加速,是一項極其強大的人工智慧產品。
8 個 NVIDIA H100 GPU,總 GPU 記憶體高達 640GB
每個 GPU 都擁有 18 個 NVIDIA® NVLinks®,提供每秒 900 GB 的 GPU 至 GPU 雙向頻寬

4 個 NVIDIA NVSWITCH™
每秒 7.2TB 的 GPU 雙向頻寬,比前一代快 1.5 倍

8 個 NVIDIA CONNECTX®-7 和 2 個搭載每秒 400Gb 網路介面卡的 NVIDIA BLUEFIELD® DPU。
雙向網路頻寬峰值高達每秒 1TB

雙 x86 CPU 與 2TB 系統記憶體
強大的 CPU,可執行人工智慧技術需求最嚴苛作業

30TB NVMe SSD
使用高速儲存以達到最佳效能
DGX H100
GPUs  8x NVIDIA H100 80 GB GPUs
GPU Memory 640 GB Total 
NVLink (GPU to GPU bandwidth) 900 GB/s
Performance 32 petaFOPS FP8
NVIDIA CUDA® Cores  135,168
NVIDIA Tensor Cores  4,224
Maximum Power Usage ~10.2kW max
CPU Dual x86
System Memory 2 TB
Network  NVIDIA CONNECTX-7 *8
Storage Data: 30TB (8X 3.84 TB) NVMe SSD
OS: 2X 1.92TB NVMe SSD
Information

相關產品

DGX A100

DGX A100