產業消息 伺服器 資料中心 pci-sig 加速器 PCIe 5.0 PCIe 6.0 CopprLink PCI-SIG公布適用PCIe 5.0、PCIe 6.0的CopprLink內外部纜線規範,提供32GT/s與64GT/s高速傳輸性能 由於異構運算的興起,使一度停滯的高速通用匯流排的發展速度加速,其中最為廣泛使用的PCIe規格更如趕火車一般的積極更迭;隨著PCI-SIG公布PCIe 7.0發展藍圖後,PCI-SIG宣布適用於即將廣泛被資料中心、AI系統等的PCIe 5.0與PCIe 6.0規格的CopprLink纜線規範,提供32.0GT/s與64GT/s的傳輸性能,並包括內部傳輸與外部傳輸兩種形式的規範。同時,隨著128.0GT/s的PCIe 7.0進入開發藍圖,PCI-SIG也開始進行相關的CoprrLink纜線的技術探索。 目前CopprLink內部與外部纜線規格已開放PCI-SIG成員下載:CopprLink ▲Co Chevelle.fu 1 年前
產業消息 intel Xeon Scalable 加速器 MLPerf Habana Gaudi2 Intel 在 MLPerf 提出實績打破 NVIDIA 獨佔局面, Habana Gaudi2 成 NVIDIA 外唯一提交 GPT-3 LLM 結果方案 由於投入大量先前軟硬體準備以及積極開放軟體生態,現在 AI 產業產生僅有 NVIDIA 解決方案足以執行生成式 AI 與大型語言模型( LLM )訓練的迷思, Intel 在最新的 MLPerf 提交旗下包括 Habana Gaudi 2 深度學習加速器與第 4 代 Xeon Scalable 的成績,希冀以實證打破業界迷思,為希望擺脫單一生態系限制的客戶提供不同的選項。 其中最新的 MLPerf Traning 3.0 結果也證實 Habana Gaudi 2 具備完善的軟硬體技術,能在 GPT-3 獲得實證,並成為除了 NVIDIA 以外提交 GPT-3 LLM 訓練基準測試效能結果的半導 Chevelle.fu 2 年前
產業消息 AMD nvidia gpu AI 資料中心 加速器 Instinct MI300 AMD 在財報指稱 AI 將是下一個重點發展項目, Instinct MI300 等新一代處理器將為引領市場的先驅 現在運算產業最熱門的話題莫過於 AI ,同時當前最熱門的產品即是 NVIDIA 的 A100 與 H100 加速器,雖然 AMD EPYC 處理器也由於 NVIDIA 的系統搭配組合嚐到甜頭,但畢竟單價相較 GPU 低,同時也不是唯一的搭配組合, AMD 自然也希望能擴大在 AI 產品的影響力與產品組合; AMD 在財報會議上,由執行長 Lisa Su 表示將把接下來的戰略發展重點放在 AI 上。 Lisa Su 在電話會議中提到, AMD 將透過組合產品搶攻 AI 趨勢,其中包括即將問世的 Instinct MI300 GPU ,配有 Ryzen AI 技術的 Ryzen 7040 系列處理 Chevelle.fu 2 年前
專家觀點 硬科技 CPU intel ibm 處理器 加速器 硬科技 八通道 Gen-Z 硬科技:讓記憶體跟CPU拖鉤的OpenCAPI、CXL與Gen-Z 筆者一向不太喜歡「天下分久必合,合久必分」這句話,因為經常被某些有心人士用來合理化某個野蠻國家對台灣的併吞野心,但隨著激增的CPU核心數與水漲船高的記憶體容量,記憶體和匯流排的頻寬,逐漸跟不上CPU核心數增長這件事。對圍繞著資料中心需求的所有相關技術,帶來了極為嚴峻的挑戰,而分散在各地的記憶體,如多階層快取記憶體、分散式實體記憶體 (NUMA) 和外部加速器 (Accelerator),彼此之間的資料一致性 (Coherence) 協定,更讓問題的延燒,如火燒摩天樓一樣的嚴重。 CPU廠商也很積極地強化記憶體頻寬,其努力直接反應在驚人的腳位數。在Nehalem (Xeon 5500/5600) 痴漢水球 4 年前
產業消息 CES消費性電子展 AMD AI 資料中心 apu 加速器 Instinct MI300 3D 封裝 CES 2023 : AMD 公布首款運算級 APU 產品 Instinct MI300 細節,藉 3D 封裝結合 24 核 Zen 4 CPU 、 CDNA 3 加速器與 128GB HBM3 記憶體 AMD 在 2022 年分析師日公布新一代 Instinct MI300 數據中心加速器將採用 APU 型態, AMD 在 2023 CES 主題演講的最後也進一步公布 Instinct MI300 的資訊,並首度展示 Instinct MI300 晶片, AMD 強調 Instinct MI300 將透過 3D 封裝技術整合使用 5nm 與 6nm 製程的晶粒。 AMD Instinct MI300 預計在 2023 年內問世 ▲ Instinct MI300 將 CPU 、加速器與 HBM3 記憶體透過 3D 封裝於單一處理器 Instinct MI300 是 AMD 首款資料中心級的 A Chevelle.fu 2 年前
產業消息 nvidia AI 加速器 NVIDIA H100 中國媒體實測 NVIDIA H100 GPU PCIe 版效能, AI 效能輾壓但遊戲缺驅動甚至輸內顯 NVIDIA H100 GPU 是目前市場上 AI 效能最高的 GPU 加速產品,不過撇除 AI 之外它的一般效能到底如何也令人相當好奇;中國媒體極客灣弄來 4 張 NVIDIA H100 PCIe 版本進行實測,從 AI 到娛樂與內容創作進行測試,從結果更令人感受到 NVIDIA H100 並非民生級產品的特性,因為在 AI 效能輾壓的另一面,由於缺乏對應的驅動, NVIDIA H100 遊戲性能甚至不及 AMD 新一代的內顯。 為資料中心設計的被動風冷結構 ▲ NVIDIA H100 PCIe 採用被動風冷,仰賴伺服器統一風道設計排熱 NVIDIA H100 PCIe 是針對 AI 工作站 Chevelle.fu 2 年前
產業消息 AMD hpc apu El Capitan 加速器 異構 Zen 4 CDNA 3 Instinct MI300 APU 美國能源局超算系統 El Capitan 將採用 AMD Instinct MI300 APU ,達 2 Exaflops 效能、預計 2023 年落成 AMD 在今年投資者日公布一系列產品藍圖,其中也提到下一代超算系統異構加速產品 Instinct MI300 APU ,這是 AMD 在收購 ATi 的 Radeon 圖形技術後,首度將結合 AMD CPU 與 ATi Radeon 圖形技術整合在超算等級單一處理器產品的成果;而美國能源局勞倫斯利佛莫爾國家實驗室的新一代超算系統 El Capitan ,也在日前宣布將由 HPE 慧與負責系統架設,導入 Instinct MI300 APU ,預估效能將突破 2 Exaflops ,預計在 2023 年落成。 El Capitan 最初僅提及將會採用 AMD Zen 4 CPU 與 AMD In Chevelle.fu 3 年前
產業消息 AMD apu 加速器 Instinct MI300 AMD 2022 分析師日: AMD 宣布 Instinct MI300 將採 APU 架構,結合 Zen 4 CPU 與 CDNA 3 GPU 架構 先前就已有市場傳聞指稱, AMD 為了對付 NVIDIA 的 Grace Hopper Superchip 以及 Intel 的 Falcon Shores XPU ,將推出資料中心級的 APU 產品;在 AMD 分析師大會上, AMD 公布下一代的 Instinct MI300 將提供 APU 產品,結合 AMD Zen 4 架構與 RDNA 3 GPU ,強調是市場上首款資料中心級的 APU 產品(畢竟同質競品一家稱為 SuperChip 、另一家稱為 XPU )。 AMD 預計在 2023 年推出 Instinct MI300 APU 。 ▲ Intsinct MI300 將採用 3D Chevelle.fu 3 年前
產業消息 AMD 深度學習 加速器 NVIDIA A100 Instinct MI200 大型語言模型 LLM MosaicML 結合 PyTorch 2.0 與 ROCm 5.4 的 AMD Instinct MI250 已在大型語言模型逐漸追上 NVIDIA A100 受到 NVIDIA 先期投入市場的軟硬體優勢, AMD 的 Instinct MI200 加速器系列雖獲得美國橡樹嶺實驗室新一代超級電腦 Frontier 採用,但市場討論度則仍較 NVIDIA 來的少;不過 AMD 也正努力的持續自軟體與硬體兩方面強化,根據 MosaicML 公布的部落格文章, AMD 的 Instinct 250 在 PyTorch 2.0 與 ROCm 5.4 的雙重加持下,已有著趨近 NVDIA A100 的效能,同時不須針對 AMD Instinct 修改代碼即可進行大型語言模型 LLM 訓練。 MosaicML 的官方部落客表示其軟體 MosaicML 可為 NV Chevelle.fu 1 年前
產業消息 intel gpu AI gaudi 加速器 Falcon Shores Intel下一代GPU加速器Falcon Shores將達1,500W TDP,僅提供液冷型態 Intel的Ponte Vecchio是Intel第一款基於GPU的加速器產品,做為下一世代後繼GPU加速器的Falcon Shores將進一步整合Gaudi產品線,將Gaudi的加速設計進一步整併到GPU加速器內;根據最新的報導指稱,Falcon Shores的TDP將達1,500W,同時僅提供液冷型態。 ▲整合Xe GPU與AI加速的Falcon Shores將作為Gaudi產品線後續的產品 Falcon Shores據稱設計計畫經過多項調整,原本將以結合CPU、GPU與加速器的XPU為目標,不過最終改為純GPU加速器產品,但保有將下一代Xe GPU架構與Gaudi加速器整合的設計;根據I Chevelle.fu 1 年前