Google Cloud導入NVIDIA A100 Tensor Core GPU 加速龐大雲端運算資源

讓Google Compute Engine雲端協同運算效能大幅提昇

NVIDIA宣布將與Google Cloud合作，預計在未來幾週內以aplha版本形式，讓近期揭曉的A100 Tensor Core GPU進駐Google Compute Engine雲端運算資源，藉此讓串接Google Compute Engine資源的雲端協同運算能以A100 Tensor Core GPU加速執行效率。

此項合作，同時也讓Google Cloud成為第一個導入A100 Tensor Core GPU運算資源的雲端服務供應商，預期可透過此款GPU加速效益帶動各類密集運算應用服務，例如人工智慧訓練與推論應用，以及諸如資料分析、科學運算、數據研究、影像分析，或是5G網路應用項目等。

同時，透過A100 Tensor Core GPU加速效率更可藉由垂直、水平擴展形式串連各類運算應用，甚至套用在真實生活中如即時翻譯、自駕車、機器人等運算情境。

這次與Google Cloud合作，將在對應龐大運算需求的Google Compute Engine採用16組A100 Tensor Core GPU作為a2-megagpu-16g instance單一虛擬機器執行單位，並且以高達9.6TB/s資料傳輸效率的NVSwitch進行連接，同時搭配總計達640GB的顯示記憶體與1.3TB系統記憶體運作。

而在軟體方面，則是擴大相容Google Kubernetes Engine、Cloud AI Platform等Google Cloud服務。

配合運算需求彈性佈署，Google Cloud同樣針對小規模運算需求提供硬體配置相對輕量的虛擬機器執行單位，以利一般網路運算服務需求取用。