Google Cloud 率先成為首家提供 NVIDIA A100 的雲服務供應商,提供客戶革命性的 AI 加速性能

2020.07.08 12:00AM
照片中包含了NVIDIA A100、黃健森、英偉達DGX、英偉達、圖形處理單元

NVIDIA 在五月中下旬正式發表新一代 AI HPC 加速器 NVIDIA A100 GPU ,而在問世的一個月後, Google Cloud 宣布將在 Google Compute Engine 提供 alpha 版,成為首家提供 NVIDIA A100 GPU 的雲服務供應商,將透過 Accelerator-Optimized VM ( A2 ) 執行個體家族; Google Cloud 亦是 NVIDIA 推出 NVIDIA T4 後首家宣布導入的雲服務商。

Google A100 較 Google Tesla V100 在訓練與推論提升 20 倍以上性能,搭載 NVIDIA A100 的 A2 VM 執行個體能夠提供不同層級的性能,可在支援 CUDA 的機器尋席訓練、推論、資料分析與高性能運算加速作業負載; Google Compute Engine 可提供 16 個 A100 GPU 之 a2-megagpu-16g 執行個體,彼此以具 9.6TB/s 的頻寬的 NVSwitch 連接,可達到最高 640GB 的 GPU VRAM 與 1.3TB 之系統記憶體;針對作業負載較小的用戶, Google 亦具備較小配置的 A2VM ,滿足不同層級的需求。

NVIDIA A100 能滿足各種運算密集型應用,如 AI 訓練、推論、資料分析、科學運算、基因組學、邊際影像分析、 5G 服務等;同時 Google 也宣布 NVIDIA A100 將擴大支援 Google Kubenetes Engine 、 Cloud AI Platform 與其它 Google Cloud 服務。