GTC 2024:NVIDIA推出為兆級參數GPU運算與AI基礎設施最佳化的Quantum-X800 InfiniBand與Spectrum-X800乙太網路交換機

2024.03.19 06:00AM

NVIDA公布全新GPU架構Blackwell與NVIDA B200 GPU、NVIDIA GB200 Superchip,於此同時,為了因應兆級參數GPU運算與AI基礎設施需求,NVIDA也宣布兩款新型交換機產品,分別為Quantum-X800 InfiniBand與Spectrum-X800乙太網路,提供最高效能AI基礎設施與適合每個資料中心的AI最佳化網路使用,具備最高800Gb/s的端到端吞吐量,同時大幅提升網路內運算性能。

包括微軟Azure、Oracle Cloud Infrastruture、Corewave等宣布將為早期採用者。Aivres、DDN、戴爾科技集團、Eviden、Hitachi Vantara、慧與科技、聯想、美超微和VAST Data則預計在2025年推出Quantum-X800 InfiniBand與Spectrum-X800乙太網路。

Quantum-X800 InfiniBand

▲Quantum-X800平台包括NVIDIA Quantum Q3400交換器與NVIDIA ConnectX-9 SuperNIC

Quantum-X800 InfiniBand是為AI專用基礎架構釋放最高效能的平台,Quantum-X800平台包括NVIDIA Quantum Q3400交換器與NVIDIA ConnectX-9 SuperNIC,具備800Gb/s的端到端吞吐量,藉由NVIDIA SHARPv4(可擴展分層聚合與縮減協定),較前一代提高5倍頻寬容量與9倍網路內運算性能,可達14.4TFLOPS。

Spectrum-X800乙太網路

  

▲Spectrum-X800結合Spectrum SN5600 800Gb/s交換機與NVIDIA BlueField-3 SuperNIC

Spectrum-X800乙太網路為AI雲端與企業基礎設施提 供最佳化網路效能、促進更快處理、分析與執行AI負載,專為多用戶環境設計,確保每個租戶的AI工作負載效能隔離;Spectrum-X800結合Spectrum SN5600 800Gb/s交換機與NVIDIA BlueField-3 SuperNIC,提供多租戶生成式AI雲端與大型企業所需的先進功能集。

完整的NVIDA軟體支援

除了硬體,NVIDA也提供一套網路加速函式庫、軟體開發套件與管理軟體,使兆級參數AI模型效能得以最佳化,其中包括NVIDIA集體溝通常式程式庫(NCCL);NCCL可將GPU平行運算任務擴展至Quantum-X800網路結構,利用網路內運算功能與支援FP8的SHARPv4增強大型模型訓練與生成式AI效能。透過完整的軟體方案,可提供先進的可程式設計性,使資料中心網路更靈活、可靠且回應迅速,最終提升整體營運效率並支援現代應用程式與服務所需。

相關消息

科技應用
EVOX《對話式 AI 白皮書》:掌握 AI 商務溝通新趨勢
癮特務
2 天前
即拍即印普普風概念印章,製造屬於自己的圖像
annti wang
15 年前
App
三星One UI 8以Android桌面模式取代DeX
Chevelle.fu
2 天前
《奇妙之旅》家族競技展開 熱鬪場內容介紹
皮耶哈
15 年前
汽車未來
全新改款 BMW iX 豪華純電旗艦休旅強勢上市!「THE NEW BMW iX」現場直擊,亮點分享一次了解!
癮特務
8 天前
應用教學
國家鐵道博物館開館 6處古蹟、8大展覽必參觀 藍皮火車預約搭乘方法看這裡
Zero圈圈
11 個小時前
快訊
伊良可樂台灣首店即將開幕!排不到可以試試這款糖漿,肥仔快樂水自己做。
Shopping guide
18 個小時前
文化創意
日本Sony宣布LinkBuds Fit與初音未來合作 限量500套加贈壓克力架與AR模型
Chevelle.fu
19 個小時前
開箱評測
2吋大螢幕、7.9mm羽量級厚度 Garmin Venu X1智慧手錶評測心得
Tandee
10 個小時前