• A40 PCIe | A30 PCIe | A30X PCIe
  • A40 PCIe | A30 PCIe | A30X PCIe
  • A40 PCIe | A30 PCIe | A30X PCIe

A40 PCIe | A30 PCIe | A30X PCIe

NVIDIA Ampere 架構是 NVIDIA 企業資料中心的一部份 ,完整的解決方案包含硬體、網路、軟體、函式庫的建置組塊,以及 NVIDIA NGC™ 目錄. 上的最佳化人工智慧模型和應用程式。其代表最強大的資料中心端對端人工智慧和高效能運算平台,讓研究人員能快速產出實際成果,並將解決方案大規模部署到生產環境中。
NVIDIA A40 

在資料中心效能和多工作負載功能方面表現出革命性的突破,結合具有強大運算效能和人工智慧加速功能的一流專業級繪圖技術,可滿足現今的設計、創意和科學挑戰。NVIDIA A40 可隨時隨地為專業人士提供光線追蹤渲染、模擬、虛擬製作等尖端科技,推動新一代虛擬工作站和伺服器工作負載。

NVIDIA A30 

為各種企業工作負載提供加速效能。這款 GPU 搭載 NVIDIA Ampere 架構 Tensor 核心與多執行個體 GPU (MIG),可安全地加速各種工作負載,包括大規模人工智慧推論和高效能運算 (HPC) 應用程式。A30 採用 PCIe 規格,結合快速記憶體頻寬和低耗能的優點,是主流伺服器的最佳選擇,可建立彈性資料中心,並讓企業發揮最大價值。


A40 PCIe A30 PCIe A30X PCIe
GPU Architecture NVIDIA Ampere NVIDIA Ampere NVIDIA Ampere
GPU Memory 48GB GDDR6  24GB HBM2 24GB HBM2e
Memory Bandwidth 696 GB/sec 933 GB/sec 1,223 GB/sec
NVIDIA CUDA® Cores  10,752 3.584 3.584
NVIDIA Tensor Cores  336 224 224
Network N/A N/A 100Gb Dual Port (Ethernet or IB)
Double-Precision  N/A 5.2 TFLOPS 5.2 TFLOPS
Single-Precision  FP32: 37.4 TFLOPSTF32: 74.8 TFLOPS FP32: 10.3 TFLOPSTF32: 82 TFLOPS FP32: 10.3 TFLOPSTF32: 82 TFLOPS
Tensor Performance N/A N/A N/A
INT8  299.3 TOPS 330 TOPS 330 TOPS
INT4 598.7 TOPS 661 TOPS 661 TOPS
Support MIG No MAX: 4 MIGs @ 6GB each MAX: 4 MIGs @ 6GB each
Networking N/A N/A 100Gb Dual Port (Ethernet or IB)
Graphics Bus PCI Express 4.0 x 16 PCI Express 4.0 x 16 PCI Express 4.0 x 16
Form Factor Dual Slot Dual Slot Dual Slot
Max TDP Power 300W 165W 230W
Information

相關產品