科技應用 nvidia 亞馬遜 aws 加速晶片 Trainium2 亞馬遜啟動「射月」計畫 減少對 NVIDIA 加速晶片的依賴 亞馬遜傳出啟動「射月」計畫,計劃在 AWS 服務中部署超過 10 萬組自家設計的 Trainium2 處理器,以降低對 NVIDIA 加速晶片的依賴 在持續向人工智慧新創Anthropic加碼投資,使其擴大使用AWS平台服務之餘,亞馬遜目前更傳出內部已經啟動「射月」 (moonshot)計畫,將透過佈署超過10萬組客製化處理器Trainium2,藉此降低仰賴採購NVIDIA加速晶片的需求。 Trainium2是亞馬遜於去年底的re:Invent 2023大會上公布產品,標榜能以高於4倍推論效能,以及提升2倍電力使用效率,加速人工智慧模型訓練,並且降低整體訓練成本,而亞馬遜投資的Anthropi Mash Yang 5 個月前
科技應用 nvidia gpu 人工智慧模型 Blackwell 加速晶片 NVIDIA Blackwell 晶片量產 AI 訓練方式改變不影響 GPU 需求 NVIDIA 宣布其新一代 Blackwell 架構加速晶片已全面量產,並強調即使 AI 模型訓練方式改變,市場對 GPU 的需求仍將持續增長。 在稍早公布截至10月底的2025財年第三季財報,NVIDIA表示上一季內營收達350.82億美元,相比去年同期增加94%,淨利則達193.09億美元,成長幅度達109%,同時也說明包含微軟、甲骨文、OpenAI在內客戶都已經開始取得以「Blackwell」顯示架構打造的加速晶片,目前約有1萬3000組樣品對外提供測試,並且已經全面進入量產階段。 而NVIDIA財務長Colette Kress更說明「Blackwell」供貨量將在2025年增加,預計帶 Mash Yang 5 個月前
科技應用 meta MTIA 加速晶片 Meta 推出新款客製化加速晶片 對應內容排序與廣告推薦加速 Meta 宣布推出新款客製化加速器晶片,將對應內容排序與廣告推薦的底層運算加速,並且依然由台積電代工,以 5nm 製程生產。 去年推出第一款內部開發的客製化加速器晶片系列,專門用於處理推理相關工作的MTIA (Meta Training and Inference Accelerator)加速晶片之後,Meta宣布推出新款客製化加速器晶片,將對應內容排序與廣告推薦的底層運算加速,並且依然由台積電代工,以5nm製程生產。 Screenshot 新一代MTIA加速晶片以8 x 8矩陣運算架構,並且改善稀疏運算管線設計,並且加上更大儲存、記憶體、傳輸頻寬等設計,讓密集運算與稀疏運算能分別提升3.5倍 Mash Yang 1 年前