NVIDIA揭密持有的EOS超級電腦,一探超級電腦TOP 500第9名系統的架構

2024.02.16 12:33PM

雖然過往超級電腦多由公部門或特定領域企業建設,不過隨著NVIDIA GPU異構加速技術開花結果,NVIDIA也在每個加速器世代設立超級電腦作為火力展示,當前於2023年11月SC23大會亮相的NVIDIA EOS更是超級電腦排行榜TOP 500的第九名系統;而NVIDIA近期釋出一部短片,進一步介紹NVIDIA EOS的構成技術。

▲EOS透過高速網路串接576套NVIDIA DGX 100、具備達4,608個H100 GPU,提供18.4 exflops的FP8 AI算力

EOS基於NVIDIA DGX SuperPOD模組化架構,由576套NVIDIA DGX H100系統組成,共有4,608個NVIDIA H100 Tensor GPU,並透過NVDIIA Quantum-2 InfiniBand網路與相關軟體構成,總共可提供18.4 exflops的FP8 AI效能,使得EOS可以處理龐大的AI工作負載,尤其如訓練大型語言模型、推薦系統與進行量子模擬,可說是因應生成式AI世代到來的高效能系統。

▲其結構透過NVIDIA Quantum-2 InfiniBand以400Gb/s速度連接,使多個節點宛若一個大型晶片

EOS也是呼應當前生成式AI如藥物探索、聊天機器人至自主機器等領域而生的系統,旨在提供已經具備AI專業知識與開發技能的專業人員一個AI工廠、一個隨時可用的專用AI引擎;NVIDIA EOS支援在業界廣泛被使用的加速運算與網路技術,包括NVIDIA Base Command、NVIDIA AI Enterprise等套件,並因應跨大型加速器節點叢集,可實現低延遲、高吞吐量的AI工作負載。

EOS為了實現大量運算叢集低延遲、高吞吐量的目標,使用基於In-Network Computing網路內運算技術的NVIDIA Quantum-2 InfiniBand,支援達400Gb/s的資料傳輸,使各個NVIDIA DGX H100節點如同一個超大型的運算晶片。

相關消息

科技應用
EVOX《對話式 AI 白皮書》:掌握 AI 商務溝通新趨勢
癮特務
3 天前
即拍即印普普風概念印章,製造屬於自己的圖像
annti wang
15 年前
開箱評測
被評價為「每步都非常舒服」的恢復型拖鞋 2種熱賣的日常款比較
Gizmodo Japan
22 個小時前
開箱評測
這麼薄卻可6裝置充電、總輸出達130W 這款Anker充電器規格簡直是拼命了
Gizmodo Japan
17 個小時前
汽車未來
全新改款 BMW iX 豪華純電旗艦休旅強勢上市!「THE NEW BMW iX」現場直擊,亮點分享一次了解!
癮特務
10 天前
《奇妙之旅》家族競技展開 熱鬪場內容介紹
皮耶哈
15 年前
產業消息
聯發科2025Q2手機營收佔52%預期旗艦天璣年內創造30億美金營收 首款2nm晶片維持9月設計定案
Chevelle.fu
23 個小時前
文化創意
國家鐵道博物館第一階段開放 免費展區即有豐富內容、柴電工廠吸收新知
Chevelle.fu
16 個小時前
開箱評測
可以與行李箱組合的三合一背包 我無法割捨Patagonia的理由
Gizmodo Japan
16 個小時前