Microsoft Azure 正式導入 NVIDIA A100 執行個體,可達到 20 倍效能提升

2020.08.21 07:10PM
照片中提到了ANNOUNCING、NVIDIA HGX A100、HYPERSCALE DATA CENTER ACCELERATOR,跟微軟公司、甲骨文Hyperion有關,包含了英偉達、英偉達、圖形處理單元、安培、英偉達DGX

微軟正式宣布其雲服務 Microsoft Azure 採用 NVIDIA A100 執行個體技術,透過 NVIDIA A100 支援的執行個體技術,以 NVIDIA Ampere A100 Tensor Core GPU ,搭配全新 ND A100 v4  AI 虛擬機器,可自單一 NVIDIA A100 的分區擴充到上千個以  NVIDIA Mellanox 的 NVIDIA A100 進行互連,並藉由全新執行個體技術彈性滿足自小規模到超大型的運算需求。

ND A100 v4 採用 AMD " ROME " 第三代 EPYC 與 NVIDIA A100 GPU 構成,以先進的 PCIe 4.0 通道結合 NVIDIA 的 NVLink 構成高效率的連接架構,使數據 CPU 、 GPU 之間順暢溝通。

同時藉由其  NVIDIA Mellanox 技術,單一個 ND A100 v4 節點內的 8 個 A100 GPU 藉由第三代 NVLink 相互連接,較前一代提升 2 倍系統內傳輸速度,同時大量的  ND A100 v4 節點具備 1.6Tbps 的相互連接頻寬,位於其中的每個 GPU 又以與網路拓樸無關的、達 200 Gb / s NVIDIA Mellanox HDR InfiniBand 連接,構成超高速的相互連接架構。

比起現行 NVIDIA V100 GPU 系統,以 NVIDIA A100 在不需更改既有軟體與框架下,即能提升 2 至 3 倍性能,在結合 A100 的稀疏編碼加速的多重精度 Tensor Core 與多執行個體 GPU 等新技術下,客戶可在全新的 A100 執行個體達到 20 倍的性能提升。

資料來源

0 則回應