從開發到部署流程的單一平台
從訓練、微調到推論,企業在人工智慧流程的每個階段都需要大量運算能力,才能處理複雜的人工智慧資料集。有了 NVIDIA DGX B200,企業就能為開發人員提供可加速工作流程的單一平台,讓開發人員的工作更上軌道。
強大的人工智慧效能
DGX B200 採用 NVIDIA Blackwell 架構在運算方面的先進技術,可提供比 DGX H100 高 3 倍的訓練效能,推論效能則增為 15 倍。DGX B200 是 NVIDIA DGX BasePOD™ 與 NVIDIA DGX SuperPOD™ 的基礎,可為任何工作負載提供頂尖效能。
經過驗證的基礎架構標準
DGX B200 是一款經過全面優化的硬體和軟體平台,包含完整的 NVIDIA AI 軟體堆疊(包括 NVIDIA Base Command 和 NVIDIA AI Enterprise 軟體)、豐富的第三方支援生態系統以及來自 NVIDIA 專家的專業支援服務。
| DGX B200 | |
| GPUs | 8x NVIDIA Blackwell 180 GB GPUs |
| GPU Memory | 1,440 GB Total |
| NVLink (GPU to GPU bandwidth) | 1,800 GB/s |
|
Performance |
72 petaFOPS FP8 training and144 petaFLOPS FP4 inference |
| NVIDIA CUDA® Cores | N/A |
| NVIDIA Tensor Cores | N/A |
| Maximum Power Usage | ~14.3kW max |
| CPU | Dual x86 |
| System Memory | 2 TB |
| Network | NVIDIA CONNECTX-7 *8 |
| Storage |
Data: 30TB (8X 3.84 TB) NVMe SSD OS: 2X 1.92TB NVMe SSD |