亞馬遜AWS率先導入NVIDIA Grace Hopper Superchip與Ultra Cluster可擴展雲端超級電腦,為生成式AI提供強大的雲運算基礎架構、軟體與服務

2023.11.29 02:30AM

Amazon Web Service/AWS於自家年度活動AWS re:Invent大會宣布攜手NVIDIA導入多項NVIDIA的創新硬體、技術與服務,率先成為首家導入NVIDIA Grace Hopper Superchip與Ultra Cluster可擴展雲端超級電腦的雲服務商,為機器學習與當前火熱的生成式AI提供自硬體、軟體到軟體的全方位解決方案。

AWS宣布將是第一家提供NVIDIA Grace Hopper Superchip的雲端服務商,以達32個節點構成單一個NVIDIA GH200 NVL32執行個體,將高達32個Grace Hopper Superchip成為一個具備20TB共享記憶體的執行個體,同時也是AWS首個採用液態冷卻的AI基礎設施。該平台將在與具備400 Gbps的Amazon第三代EFA連接的Amazon Elastic Compute Cloud(Amazon EC2)執行個體上提供,並由高級虛擬化(AWS Nitro System)和超大規模叢集(Amazon EC2UltraClusters)提供支持,使雙方客戶能夠擴展上千的GH200超級晶片。

▲AWS將串接32個Grace Hopper Superchip構成GH200 NVL32,提供高達20TB的共享記憶體

同時NVIDIA與AWS將共同在AWS平台託管NVIDIA的人工智慧訓練即服務( AI Tranning as Service)NVIDIA DGX Cloud;此平台將是全球第一個利用NVIDIA GH200 NVL32的DGX Cloud,為開發人員提供單一執行個體最大的共享記憶體,以強大的運算力與充裕的記憶體,藉此執行超過一兆個參數的大型語言模型訓練。

雙方同時啟動Project Celiba,Project Celiba的目的是打造以GPU驅動的世界上最快的AI超級電腦,該計畫採用GH200 NVL32與Amazon EFA互連的大規模系統,並由AWS為NVIDIA研發團隊託管;預計Project Celiba將配有高達16,384個NVIDIA GH200 Superchip,具備達65exaflops,NVIDIA預期將透過Project Celiba驅動下一波生成式AI,包括將使用此超級電腦進行研發,以推進大型語言模型、圖形和模擬、數位生物學、機器人
、自動駕駛汽車和Earth-2氣候預測等領域的人工智慧。Project Celiba將與AWS服務整合,例如Amazon Virtual PrivateCloud(VPC)加密網路和Amazon Elastic Block Store高效能區塊儲存,從而使NVIDIA能夠存取AWS的全面功能。

▲P5e執行個體採用NVIDIA H200,為AWS針對大規模與高階生成式AI、高效能運算工作負載的全新EC2執行個體

AWS也將推出另外三個全新Amazon EC2執行個體,包括針對大規模與高階生成式AI、高效能運算工作負載、以NVIDIA H200 Tensor Core GPU驅動的P5e執行個體,以及適用於人工智慧微調、推論、圖形、影片與工作負載等由NVIDIA L4 GPU驅動的G6,與NVIDIA L40S GPU驅動的G6e執行個體,其中G6e特別適合結合NVIDIA Omniverse開發3D工作流程、數位孿生與其他應用程式。

AWS也將擴展NVIDIA的生成式AI軟體,NVIDIA宣布在AWS推出多項軟體功能,包括做為加速語意檢索建構高準度聊天機器人與摘要工具的NVIDIA NeMo Retriever微服務提供了新工具。此外針對藥物開發,。NVIDIA BioNeMo現在已經於Amazon SageMaker上架;同時AWS也著手活用NVIDIA NeMo框架訓練下一代Amazon Titan大型語言模型;另外Amazon Robotics的機器人計畫也開始活用NVIDIA Omniverse Isaac建構數位孿生,透過在數位孿生環境先行進行自動化、最佳化與規劃自主倉庫,加速新一代自動化機器人於現實部署與提高運作的正確性。

相關消息

科技應用
EVOX《對話式 AI 白皮書》:掌握 AI 商務溝通新趨勢
癮特務
3 天前
即拍即印普普風概念印章,製造屬於自己的圖像
annti wang
15 年前
開箱評測
被評價為「每步都非常舒服」的恢復型拖鞋 2種熱賣的日常款比較
Gizmodo Japan
1 天前
文化創意
國家鐵道博物館第一階段開放 免費展區即有豐富內容、柴電工廠吸收新知
Chevelle.fu
20 個小時前
汽車未來
全新改款 BMW iX 豪華純電旗艦休旅強勢上市!「THE NEW BMW iX」現場直擊,亮點分享一次了解!
癮特務
10 天前
開箱評測
這麼薄卻可6裝置充電、總輸出達130W 這款Anker充電器規格簡直是拼命了
Gizmodo Japan
21 個小時前
開箱評測
可以與行李箱組合的三合一背包 我無法割捨Patagonia的理由
Gizmodo Japan
20 個小時前
產業消息
聯發科2025Q2手機營收佔52%預期旗艦天璣年內創造30億美金營收 首款2nm晶片維持9月設計定案
Chevelle.fu
1 天前
《奇妙之旅》家族競技展開 熱鬪場內容介紹
皮耶哈
15 年前