• DGX A100
  • DGX A100

DGX A100

適用於所有人工智慧工作負載的通用系統,為全球第一款 5 petaFLOPS 人工智慧系統提供前所未有的運算密度、效能和彈性。搭載 NVIDIA A100 Tensor 核心 GPU,DGX A100 使企業能夠將訓練、推論和分析整合至易於部署的單一人工智慧基礎架構,並支援 NVIDIA 人工智慧專家顧問。
8 個 NVIDIA A100 GPU 搭載共 640 GB GPU 記憶體
每個 GPU 使用 12 個 NVLink,GPU 至 GPU 頻寬每秒 600 GB 

26 個第二代 NVSwitch
雙向頻寬每秒 4.8 TB 比前一代高出 2 倍 

3 10 個 NVIDIA CONNECTX-7 每秒 200GB 網路介面
每秒 500 GB 的雙向頻寬峰值 

4 雙 64 核心 AMD CPU 與 2 TB 系統記憶體
核心數量增加 3.2 倍,以驅動最密集的人工智慧工作

5 30TB 第四代 NVME SSD 
每秒 50GB 的頻寬峰值,比第三代 NVME SSD 快 2 倍
DGX A100 640GB (F)(10xNICs) DGX A100 640GB (L)(5xNICs) DGX A100 320GB (H)(9xNICs) DGX A100 320GB (L)(5xNICs)
GPUs  8x NVIDIA A100 80 GB GPUs 8x NVIDIA A100 80 GB GPUs 8x NVIDIA A100 40 GB GPUs 8x NVIDIA A100 40 GB GPUs
GPU Memory 640 GB Total  640 GB Total  320 GB Total  320 GB Total 
NVLink (GPU to GPU bandwidth) 600 GB/s 600 GB/s 600 GB/s 600 GB/s
Performance 5 PetaFLOPS AI ; 10 petaOPS INT8 5 PetaFLOPS AI ; 10 petaOPS INT8 5 PetaFLOPS AI ; 10 petaOPS INT8 5 PetaFLOPS AI ; 10 petaOPS INT8
NVIDIA CUDA® Core 55,296 55,296 55,296 55,296
NVIDIA Tensor Cores  3,456 3,456 3,456 3,456
Maximum Power Usage 6,500 W 6,500 W 6,500 W 6,500 W
CPU Dual AMD Rome 7742 2.25GHz, 64-Core Dual AMD Rome 7742 2.25GHz, 64-Core Dual AMD Rome 7742 2.25GHz, 64-Core Dual AMD Rome 7742 2.25GHz, 64-Core
System Memory 2 TB DDR4 RDIMM 2 TB DDR4 RDIMM 1 TB DDR4 RDIMM 1 TB DDR4 RDIMM
Network  200Gb Single Port *8, 200G Dual Port *2 200Gb Single Port *4, 200G Dual Port *1 200Gb Single Port *8, 200Gb Dual Port *1 200Gb Single Port *4, 200Gb Dual Port *1
Storage Data: 30TB (8X 3.84 TB) NVMe SSD
OS: 2X 1.92TB NVMe SSD
Data: 30TB (8X 3.84 TB) NVMe SSD
OS: 2X 1.92TB NVMe SSD
Data: 15TB (4X 3.84 TB) NVMe SSD
OS: 2X 1.92TB NVMe SSD
Data: 15TB (4X 3.84 TB) NVMe SSD
OS: 2X 1.92TB NVMe SSD

Information

相關產品

DGX H100

DGX H100