加速器全攻略 (119247) / 第2頁

最新 | 熱門

產業消息三星 hpc AI 加速器生成式AI HBM3e HBM3e 12H

三星將於2024年上半年量產36GB HBM3e 12H，採用12層堆疊、達1,280GB/s頻寬

不讓美光8層堆疊的HBM3e專美於前，三星宣布業界首款12層堆疊的HBM3e 12H DRAM，將容量推進至36GB，對於高效能運算、AI加速器等產品相較HBM3 8H可提升達50%的記憶體容量，同時傳輸頻寬一舉提升至1,280GB/s，預期相較HBM3 8H於AI領域可提高34%訓練性能、推論的同時用戶數則可提高11.5倍。三星HBM3e 12H已經送樣，預計2024年上半年量產 ▲三星HBM3e 12H將於2024年上半年量產三星HBM3e 12H採用TC NCF(熱壓非導電薄膜)技術，使12層堆疊與8層堆疊的高度相同，滿足當前HBM封裝需求，TC NFC將為更多層堆疊帶來優勢，尤其可減

Chevelle.fu

1 年前

產業消息 CPU ARM 微軟 AI 晶圓代工加速器 IFS Intel 18A

微軟宣布將採用Intel 18A製程生產晶片，Arm架構CPU或AI 加速器都可能是候選

微軟執行長Satya Nadella在Intel IFS晶圓代工部門的Intel Foundry Direct Connect 2024活動透過視訊公布，微軟將使用Intel的18A製程生產晶片，不過並未透露微軟將利用18A製程生產哪一類型的晶片。 ▲由Intel 18A生產的微軟晶片較可能是Arm架構CPU或加速器 Intel 18A製程是Intel執行長Pat Gelsinger上任時的4年5個製程節點的最後一個計劃，依照規畫將在2025年落實；Pat Gelsinger在活動上也公布基於Intel 18A製程、隸屬Xeon E系列的Clearwater Forest計畫，IFS視18A為

Chevelle.fu

1 年前

產業消息伺服器 Azure 加速器客製化晶片 Maia Cobalt

微軟Azure公布參考OpenAI意見開發的Maia 100 AI晶片與基於Arm架構的Cobalt 100 CPU，強調涉入晶片設計進一步與軟體相互加乘

雲端服務三巨頭當中的亞馬遜AWS、Google Cloud皆為了降低成本、提升效益以及與自身的AI演算法最佳化等理由投入自研晶片，微軟Azure也終於在2023年的Microsoft Ignite大會公布兩款客製化晶片，其一是為人工智慧、生成式AI開發的Azure Maia 100 AI加速器，另一款則是基於Arm架構、為Microsoft雲端執行通運算負載的Azure Cobalt 100 CPU；微軟強調透過頭自研晶片，能與自身擅長的軟體相互結合發揮1+1>2的效用。微軟預計Azure Maia 100 AI加速器與Azure Cobalt 100 CPU將會在2024年初於微軟資

Chevelle.fu

1 年前

產業消息 intel AI gaudi 半導體 Xeon Scalable 加速器封裝技術 Pat Gelsinger Intel 20A 小晶片 Intel 18A RibbonFET 生成式AI Core Ultra PowerVIA

Intel執行長Pat Gelsinger親臨台灣主持Intel Innovation主題演講鞏固台灣夥伴關係，以Centrino時刻形容對現今AI產業的興奮

Intel在2023年11月7日於台灣舉辦Intel Innovation Taiwan，並由執行長Pat Gelsinger親自主持主題演講，聚焦Intel開發者策略、即將推出的新一代產品、先進製程與封裝等，同時以AI的Centrino Time(Centrino時刻)形容對以生成式AI與大型語言模型驅動的新世代AI來臨，並多次強調台灣產業鏈的重要。Pat Gelsinger開場前亦與多家台灣長期夥伴擁抱與握手，向台灣ICT產業夥伴固樁與信心喊話的意義相當明確。 ▲活動開始前 Pat Gelsinger與多家台灣夥伴交談、握手與擁抱 ▲Steve Long的暖場聚焦在AI無所不在 ▲強調台灣

Chevelle.fu

1 年前

產業消息三星 AMD intel nvidia AI 顯示卡繪圖卡加速器 GDDR6 GDDR7

三星宣布完成 32Gbps GDDR7 記憶體開發，較現行 24Gbps GDDR6 提升 1.4 倍性能與增加 20% 功耗效能比

隨著高解析度遊戲內容、 AI 等應用需求增加，顯示卡產業對於記憶體的性能與容量需求也不斷增加，尤其是繪圖卡與 AI 加速器產品對高速與大容量記憶體的需求更為明確；三星宣布已經完成新一代 32Gbps 的 16Gb GDDR7 的開發，較現行 GDDR6 的性能提高 1.4 倍並提升 20% 的能耗效能比，並預計在 2023 年於重點客戶的下一代系統進行驗證；三星強調 GDDR7 將進一步強化 AI 、 HPC 與車載(自動駕駛與先進輔助駕駛)的功能。若從顯示卡的產品更新更迭時間推算，三星的重點客戶很有可能是將在 2024 年宣布全新顯示卡產品的 AMD 與 Intel ，至於 NVIDIA

Chevelle.fu

1 年前

產業消息中國 gpu cuda AI 新創公司加速器

中國新創登臨科技宣布將推出相容 CUDA 與 OpenCL 的軟體定義異構運算 CPU ，並獲得中國國家資金挹注

中國在近年受到中美貿易戰影響，除了影響晶片取得與製造以外，也興起一股「國芯國造」的熱潮，許多新創公司紛紛宣稱投入各領域的晶片研發，其中在 GPU 部分就有高達 13 家，近期一家位於上海的登臨科技宣布取得中國國家資金的挹注，將開發可相容 CUDA 與 OpenCL 的異構晶片，並打造一系列稱為 Goldwasser 的 AI 加速產品。 ▲畢竟有爆芯貼標 Intel 處理器的前車之鑑，登臨是否也是將 NVIDIA 產品改標也值得玩味(圖片擷取自：登臨科技) 不過若細看登臨科技的 Goldwasser 產品，即便是最高階的 Goldwasser XL ，也不過是一款 120W TDP 、採用 P

Chevelle.fu

1 年前

產業消息中國 intel nvidia AI 加速器 Habana Gaudi2

Intel 在中國推出 Habana Gaudi2 加速器，希望藉晶片禁令之際搶食 NVIDIA 原本的市場

雖然中國是 AMD 、Intel 與 NVIDIA 三家美國晶片公司的重要獲利市場，然而隨著中美貿易站延伸而來的晶片禁令也使三大公司受到嚴重的影響；不過上有政策下有對策，像是 NVIDIA 就透過效能限制的方式為中國市場提供 A800 與 H800 加速器，然而效能閹割、價格同樣不便宜之餘還有漫長的交貨期，現在 Intel 則在中國宣布為中國市場導入 Habana Gaudi2 加速器，同時也獲得中國多家主要 AI 伺服器品牌的採納。 ▲由於 NVIDIA GPU 加速器交期漫長、價格昂貴加上中國版效能受限，對 Intel 的 Habana Gaudi2 是機會雖然 Intel 近期多次宣傳

Chevelle.fu

1 年前

產業消息 AMD 深度學習加速器 NVIDIA A100 Instinct MI200 大型語言模型 LLM MosaicML

結合 PyTorch 2.0 與 ROCm 5.4 的 AMD Instinct MI250 已在大型語言模型逐漸追上 NVIDIA A100

受到 NVIDIA 先期投入市場的軟硬體優勢， AMD 的 Instinct MI200 加速器系列雖獲得美國橡樹嶺實驗室新一代超級電腦 Frontier 採用，但市場討論度則仍較 NVIDIA 來的少；不過 AMD 也正努力的持續自軟體與硬體兩方面強化，根據 MosaicML 公布的部落格文章， AMD 的 Instinct 250 在 PyTorch 2.0 與 ROCm 5.4 的雙重加持下，已有著趨近 NVDIA A100 的效能，同時不須針對 AMD Instinct 修改代碼即可進行大型語言模型 LLM 訓練。 MosaicML 的官方部落客表示其軟體 MosaicML 可為 NV

Chevelle.fu

2 年前

產業消息 intel Xeon Scalable 加速器 MLPerf Habana Gaudi2

Intel 在 MLPerf 提出實績打破 NVIDIA 獨佔局面， Habana Gaudi2 成 NVIDIA 外唯一提交 GPT-3 LLM 結果方案

由於投入大量先前軟硬體準備以及積極開放軟體生態，現在 AI 產業產生僅有 NVIDIA 解決方案足以執行生成式 AI 與大型語言模型( LLM )訓練的迷思， Intel 在最新的 MLPerf 提交旗下包括 Habana Gaudi 2 深度學習加速器與第 4 代 Xeon Scalable 的成績，希冀以實證打破業界迷思，為希望擺脫單一生態系限制的客戶提供不同的選項。其中最新的 MLPerf Traning 3.0 結果也證實 Habana Gaudi 2 具備完善的軟硬體技術，能在 GPT-3 獲得實證，並成為除了 NVIDIA 以外提交 GPT-3 LLM 訓練基準測試效能結果的半導

Chevelle.fu

2 年前

產業消息 nvidia AI 加速器 NVIDIA H100

中國媒體實測 NVIDIA H100 GPU PCIe 版效能， AI 效能輾壓但遊戲缺驅動甚至輸內顯

NVIDIA H100 GPU 是目前市場上 AI 效能最高的 GPU 加速產品，不過撇除 AI 之外它的一般效能到底如何也令人相當好奇；中國媒體極客灣弄來 4 張 NVIDIA H100 PCIe 版本進行實測，從 AI 到娛樂與內容創作進行測試，從結果更令人感受到 NVIDIA H100 並非民生級產品的特性，因為在 AI 效能輾壓的另一面，由於缺乏對應的驅動， NVIDIA H100 遊戲性能甚至不及 AMD 新一代的內顯。為資料中心設計的被動風冷結構 ▲ NVIDIA H100 PCIe 採用被動風冷，仰賴伺服器統一風道設計排熱 NVIDIA H100 PCIe 是針對 AI 工作站

Chevelle.fu

2 年前

友站推薦