功能強大的本機執行 AI 解決方案
透過啟用大型模型本機推論 (達 2000 億個參數),輕鬆處理 AI 和資料科學工作負載。
為成功而擴充
使用可擴充推論功能,比傳統的多 GPU 配置效能更快,效率更上層樓。此系統配備 ConnectX-7 SmartNIC 和 200 GbE 連線能力,可在各節點順暢高速叢集,有效率地執行大型模型。搭配遠端直接記憶體存取 (RDMA) 和 GPUDirect,CPU 和 GPU 可直接存取彼此的記憶體,進而減少經常性開支,實現安全的共用工作負載。
順暢效能
經過全面測試的穩定環境可有效率地執行 AI、機器學習和分析工作負載,確保進階應用程式的可靠性和最高生產力。以 Ubuntu Linux 為基礎的 NVIDIA DGX OS 是專為系統特定的最佳化和其他驅動程式量身打造,可簡化效率。