DGX H100
NVIDIA DGX™ H100 拓展創新與最佳化的極限。DGX H100 擁有 NVIDIA 經典 DGX 系統的最新迭代和 NVIDIA DGX SuperPOD™ 的基礎，並且以 NVIDIA H100 Tensor 核心 GPU 突破性效能加速，是一項極其強大的人工智慧產品。
8 個 NVIDIA H100 GPU，總 GPU 記憶體高達 640GB
每個 GPU 都擁有 18 個 NVIDIA® NVLinks®，提供每秒 900 GB 的 GPU 至 GPU 雙向頻寬
4 個 NVIDIA NVSWITCH™
每秒 7.2TB 的 GPU 雙向頻寬，比前一代快 1.5 倍
8 個 NVIDIA CONNECTX®-7 和 2 個搭載每秒 400Gb 網路介面卡的 NVIDIA BLUEFIELD® DPU。
雙向網路頻寬峰值高達每秒 1TB
雙 x86 CPU 與 2TB 系統記憶體
強大的 CPU，可執行人工智慧技術需求最嚴苛作業
30TB NVMe SSD
使用高速儲存以達到最佳效能
每個 GPU 都擁有 18 個 NVIDIA® NVLinks®，提供每秒 900 GB 的 GPU 至 GPU 雙向頻寬
4 個 NVIDIA NVSWITCH™
每秒 7.2TB 的 GPU 雙向頻寬，比前一代快 1.5 倍
8 個 NVIDIA CONNECTX®-7 和 2 個搭載每秒 400Gb 網路介面卡的 NVIDIA BLUEFIELD® DPU。
雙向網路頻寬峰值高達每秒 1TB
雙 x86 CPU 與 2TB 系統記憶體
強大的 CPU，可執行人工智慧技術需求最嚴苛作業
30TB NVMe SSD
使用高速儲存以達到最佳效能
| DGX H100 | |
| GPUs | 8x NVIDIA H100 80 GB GPUs |
| GPU Memory | 640 GB Total |
| NVLink (GPU to GPU bandwidth) | 900 GB/s |
| Performance | 32 petaFOPS FP8 |
| NVIDIA CUDA® Cores | 135,168 |
| NVIDIA Tensor Cores | 4,224 |
| Maximum Power Usage | ~10.2kW max |
| CPU | Dual x86 |
| System Memory | 2 TB |
| Network | NVIDIA CONNECTX-7 *8 |
| Storage |
Data: 30TB (8X
3.84 TB) NVMe SSD OS: 2X 1.92TB NVMe SSD |
