DGX H200
以 NVIDIA DGX™ H200 拓展商業創新與最佳化的新疆界。DGX H200 隸屬於 DGX 平台，為 NVIDIA DGX SuperPOD™ 和 DGX BasePOD™ 提供強大的人工智慧基礎，並由 NVIDIA H200 Tensor 核心 GPU 帶來絕佳的加速效能。
8 個 NVIDIA H200 GPU 一共搭載 1,128 GB 的 GPU 記憶體
每個 GPU 都擁有 18 個 NVIDIA® NVLinks® 連結，提供每秒 900 GB 的 GPU 對 GPU 雙向頻寬
4 個 NVIDIA NVSwitches™
每秒 7.2TB 的 GPU 對 GPU 雙向頻寬，是前一代的 1.5 倍
10 個 NVIDIA CONNECTX®-7 每秒 400GB 網路介面
雙向網路頻寬峰值高達每秒 1TB
雙 Intel Xeon Platinum 8480C 處理器、總共 112 個核心和 2TB 系統記憶體
強大的 CPU，即使是最嚴苛的人工智慧作業也可執行
每個 GPU 都擁有 18 個 NVIDIA® NVLinks® 連結，提供每秒 900 GB 的 GPU 對 GPU 雙向頻寬
4 個 NVIDIA NVSwitches™
每秒 7.2TB 的 GPU 對 GPU 雙向頻寬，是前一代的 1.5 倍
10 個 NVIDIA CONNECTX®-7 每秒 400GB 網路介面
雙向網路頻寬峰值高達每秒 1TB
雙 Intel Xeon Platinum 8480C 處理器、總共 112 個核心和 2TB 系統記憶體
強大的 CPU，即使是最嚴苛的人工智慧作業也可執行
| DGX H200 | |
| GPUs | 8x NVIDIA H200 140 GB GPUs |
| GPU Memory | 1,128 GB Total |
| NVLink (GPU to GPU bandwidth) | 900 GB/s |
| Performance | 32 petaFOPS FP8 |
| NVIDIA CUDA® Cores | N/A |
| NVIDIA Tensor Cores | N/A |
| Maximum Power Usage | ~10.2kW max |
| CPU | Dual x86 |
| System Memory | 2 TB |
| Network | NVIDIA CONNECTX-7 *8 |
| Storage |
Data: 30TB (8X 3.84 TB) NVMe SSD OS: 2X 1.92TB NVMe SSD |
