Intel攜手供應鏈夥伴展示Xeon 6處理器與Gaudi加速器系統解決方案,強調即便搭配NVIDIA方案仍是加速CPU最佳解

2024.12.03 04:45PM

Intel在台灣攜手多家供應鏈夥伴展示採用全P-Core架構的Intel Xeon 6處理器與Intel Gaudi 3加速器的最新系統與解決方案,包括智邦科技、安提國際、其陽科技、永擎電子、華碩電腦、仁寶電腦、鈺登科技、鴻海科技集團、技嘉科技、威強電、英業達、神雲科技、微星科技、和碩聯合科技、雲達科技(QCT)、神準科技、美超微、緯創資通、緯穎科技皆展示最新的系統與解決方案;Intel強調其Xeon 6處理器為AI世代最佳處理器,承襲長年累積的運算資產與整合AI加速,搭配Gaudi 3加速器如虎添翼,但因應客戶多元需求,即便搭配NVIDIA加速器方案也是最佳選擇。

▲Intel強調將延續Pat Gelsinger引領的方針為產業帶來最佳的產品組合

此外,或許是因應活動前夕Intel宣布執行長Pat Gelsinger退休,英特爾亞太暨日本區總經理莊秉翰在開場也強調Pat Gelsinger在Intel期間推動改革的貢獻,並強調Intel將延續Pat Gelsinger的產品策略與方針,持續為產業提供強大的產品組合;此外也一併強調台灣供應鏈與產業夥伴是Intel堅實的後盾。

▲Intel與合作夥伴展示多個利用Open IP超流體技術的冷卻解決方案

▲強調因應客戶需求Xeon 6仍是NVIDIA加速GPU最好的CPU搭檔

Intel強調Xeon 6處理器與Gaudi 3加速器皆是因應新一代AI運算需求所規劃,具備可擴充性、成本、能源效率與安全性,使企業建構的最佳化總體擁有成本(TCO)與每瓦最佳效能的AI系統,此外Intel也透過開放計畫為系統與雲端服務商提供開放的軟體、硬體環境。Intel也在會場展示先進散熱解決方案,藉Open IP超流體技術,不僅能應用於浸沒式冷卻,也能用於水冷板散熱系統,相較傳統冷板的冷卻液PG25不僅性能提高,同時可搭配新開發的介電液防止漏液造成的傷害,同時僅需修改冷卻液分配裝置即可達1,500W TDP的解熱需求,並較傳統散熱方式降低能源消耗。

Xeon 6處理器

▲Intel當前提供全P-Core與全E-Core的Xeon產品線,滿足不同類型的企業運算需求

▲強調Xeon 6兼具傳統運算與AI運算所需的架構與設計

▲強調Xeon 6具備出色的能源效率

▲Intel與合作夥伴因應GPU加速需求規劃多種形式的系統

▲利用合理的結構配置使系統的冷卻最佳化

採用全P-Core的Xeon 6處理器是以因應自邊際到資料中心與雲端的AI效能需求所規劃,支援超大容量記憶體與I/O頻寬,其中也支援新一代的DDR5 MRDIMM,利用記憶體模組上雙通道特性使傳輸性能達8,800MT/s性能,並同時保有企業級記憶體需求的安全與可靠,使運算具備更高的頻寬、更低的延遲,此外還可利用CXL 2.0規格,利用PCIe介面進一步提高記憶體頻寬、容量。

▲全P-Core的Xeon 6可提供最高128核心(3 Tile設計)

▲原生支援6,400MT/s的DDR5記憶體與8,800MT/s的MRDIMM記憶體

同時Xeon 6處理器具備最高128個高性能核心、12個記憶體通道,每個插槽可提供96條PCIe通道,同時雙插槽處理器之間使用UPI通道溝通,不須分配PCIe通道,能使平台搭配加速器、儲存裝置時保有完整的通道數量。Xeon 6可支援傳統運算與整合AI加速架構,可在處理器執行如圖像辨識等AI負載,同時也由於支援達96條PCIe先進高速通道技術,搭配第三方加速器方案如NVIDIA GPU時也能使CPU與GPU以最大頻寬相互溝通。

Gaudi 3加速器

▲Intel已在2024年第四季量產PCIe版Gaudi 3

▲Gaudi 3較前一代顯著提升學習與推論性能

▲強調Gaudi 3是企業面對AI世代最佳的解決方案,並透過RAG技術使企業能快速建立專用的小而美AI模型

▲Intel強調Gaudi 3具有絕佳的性價比

Gaudi 3是Intel為大規模AI運算設計的加速器,於資料中心與雲端環境可支援大型語言模型、多模態模型、企業RAG等AI應用,相較前一代於BF16的AI運算性能提升4倍,同時提高1.5倍記憶體頻寬與2倍網路頻寬,對於大型語言模型、多模態模型的AI訓練與推論有顯著的幫助;此外還無縫整合PyTorch框架,更提供Hugging Face Transformer模型和Diffusers模型庫,協助開發者更容易使用。此外intel也於2024年第四季開始量產PCIe版的Gaudi 3加速器,滿足更多連接形式的市場需求。