H200 SXM | H200 NVL
適用於生成式人工智慧和高效能運算的顯示卡
NVIDIA H200 Tensor 核心 GPU 具備顛覆以往的效能和記憶體功能，可大幅強化生成式人工智慧和高效能運算工作負載。H200 是第一款搭載 HBM3e 的 GPU，更大更快的記憶體可加速生成式人工智慧和大型語言模型 (LLM)，同時強化高效能運算工作負載的科學運算。
NVIDIA H200 Tensor 核心 GPU 具備顛覆以往的效能和記憶體功能，可大幅強化生成式人工智慧和高效能運算工作負載。H200 是第一款搭載 HBM3e 的 GPU，更大更快的記憶體可加速生成式人工智慧和大型語言模型 (LLM)，同時強化高效能運算工作負載的科學運算。
| H200 SXM | H200 NVL | |
| GPU Architecture | NVIDIA Hopper | NVIDIA Hopper |
| GPU Memory | 141GB HBM3 | 141GB HBM3 |
| Memory Bandwidth | 4.8 TB/sec | 4.8 TB/sec |
| NVIDIA Tensor Cores | 528 | 528 |
| FP64 | 34 TFLOPS | 30 TFLOPS |
| FP64 Tensor Core | 67 TFLOPS | 60 TFLOPS |
| FP32 | 67 TFLOPS | 60 TFLOPS |
| TF32 Tensor Core | 989 TFLOPS | 835 TFLOPS |
| BELOAT16 Tensor Core | 1,979 TFLOPS | 1,671 TFLOPS |
| FP16 Tensor Core | 1,979 TFLOPS | 1,671 TFLOPS |
| FP8 Tensor Core | 3,958 TFLOPS | 3,341 TFLOPS |
| INT8 Tensor Core | 3,958 TFLOPS | 3,341 TFLOPS |
| INT4 | N/A | N/A |
| NVIDIA RT Cores | N/A | N/A |
| RT Core performance | N/A | N/A |
| Support MIG | Up to 7 MIGs @ 18GB each | Up to 7 MIGs @ 16.5GB each |
| Graphics Bus | PCI Express 5.0 x 16 | PCI Express 5.0 x 16 |
| Form Factor | SXM | Dual Slot |
| Max TDP Power | Up to 700W (configurable) | Up to 600W (configurable) |
