產業消息 micron nvidia AI 美光 加速器 HBM4 美光2026年量產的HBM4將提供NVIDIA Rubin R100等下一代AI加速器使用,並已投入HBM4E的開發 美光的HBM3E順利打入NVIDIA AI加速器的供應鏈,其中HBM3E成為NVIDIA H200搭配的記憶體;根據美光財報會議紀錄,美光將在2026年量產HBM4,作為屆時如NVIDIA的「Rubin」NVIDIA R100等先進加速器搭配,此外美光也投入HBM4E的開發,倘若時程能夠配合,應該會成為NVIDIA小改版世代的R200所搭配的記憶體。 ▲NVIDIA的Rubin R100加速器預期會採用美光HBM4記憶體 目前AI加速器的GPU由SK Hynix取領先,三星與美光仍設法從中突圍,其中美光鎖定高性能與客製化服務作為與其它競爭者的差異化;美光預期在2026年推出HBM4記憶體,將較 Chevelle.fu 4 個月前
產業消息 nvidia SUPERMICRO 美國商務部 NVIDIA H100 晶片出口禁令 NVIDIA被要求調查美超微如何使其產品繞過美國進出口限制流入中國,包括偽造伺服器序號 雖然美國商務部啟動對中國高效能運算晶片限制令,使包括AMD、NVIDIA、Intel等的AI HPC晶片無法透過正規管道輸出到中國,然而道高一尺魔高一丈,仍有許多中國企業以其它管道取得這些高效能晶片,其中美超微Supermicro(SMCI)就被認為是其中一家幕後推手;現在傳出美國商務部已經正式要求NVIDIA著手調查為何受到進出口管制的晶片仍流入中國,NVIDIA將針對合作的系統商、包括Dell與美超微進行調查,NVIDIA也留意到中國傳聞可透過偽造序號規避美國進出口管制的限制。 U.S. PROBES $NVDA CHIP SMUGGLING TO CHINA: INFORMATION T Chevelle.fu 4 個月前
產業消息 nvidia 機器視覺 聊天機器人 Ampere Jetson Orin Jetson Orin Nano Super NVIDIA獻給開發者大禮公布Jetson Orin Nano Super嵌入式AI平台,推論性能提升1.7倍且僅249美金 NVIDIA在2024年年末為嵌入式平台開發者獻上一份大禮,為價格更便宜、性能更強的NVIDIA Jetson Orin Nano Super嵌入式AI平台,保有NVIDIA平台開發的一致性,較現行的Jetson Orin Nano性能顯著提升,可作為建構檢索增強型的大型語言模型聊天機器人、視覺AI助理與AI自主機器人,且也能在現行完成軟硬體開發的平台環境直接換上Jetson Orin Nano Super單板使性能更為提升。 Jetson Orin Nano Super開發套件的價格自Jetson Orin Nano的499美金降至249美金 ▲Jetson Orin Nano Super的 Chevelle.fu 4 個月前
產業消息 nvidia 微軟 woa Windows on Arm Snapdragon X Elite Truist Securities指稱NVIDIA將在2025年重返PC處理器市場 NVIDIA曾在微軟首次推出Windows on Arm計畫時參與其中,以基於Arm架構的Tegra晶片推出過Windows RT裝置,不過最後在微軟對於產品並未投入過多心力、仍聚焦在x86處理器的支援性導致整個計畫失敗,NVIDIA的Tegra處理器後續也由於未能成功在手機、平板獲得突破,最後轉型著眼在嵌入式超級電腦產品;然而Truist Securities資本市場公司指稱,NVIDIA將在2025年重返消費端CPU領域。 ▲NVIDIA也曾在數年前微軟推出Windows RT系統時切入PC處理器市場,但微軟當時的態度導致NVIDIA、德州儀器放棄後續發展 倘若傳聞屬實,以合理性判斷,NV Chevelle.fu 4 個月前
產業消息 nvidia 光通訊 半導體 3D 封裝 SiPh 矽光子 NVIDIA未來的AI加速器將邁向矽光子通訊與記憶體3D堆疊發展,可能在2028年至2030年實作 NVIDIA在IEDM大會展示對下一代AI加速器的設計概念願景,其中有兩項重點:矽光子(SiPh)與3D記憶體堆疊;NVIDIA於IEDM介紹下一代加速器的願景時,就提到將利用SiPH取代現行的電通訊作為大型運算GPU的中介層。 SiPh矽光子是採用光通訊的技術,相較現行的電通訊方式具備更高的頻寬與更低的延遲,同時也更為省電;除了作為中介層以外,NVIDIA也在新GPU晶片計畫利用SiPh作為連接多個晶粒的通訊技術,使多個GPU晶粒之間能夠以更高速、低延遲的通道連接與互通。 Here's @NVIDIA's vision of the future of AI compute. Chevelle.fu 4 個月前
產業消息 nvidia 台積電 半導體 亞利桑那州 封裝技術 Blackwell AI HPC CoWoS 傳NVIDIA Blackwell資料中心GPU可能會由台積電北美廠生產,但初期封裝仍需運到台灣 根據報導指稱,台積電於美國的設廠計畫有重大的進展,NVIDIA頂級AI HPC加速器Blackwell GPU預計在2025年於台積電亞利桑那州的產線生產,以實現美國政府的美國製造目標,不過後續的封裝仍需運到台灣進行。 路透社引述三個產業消息來源指稱,台積電正與NVIDIA探討在亞利桑那州量產Blackwell晶片的事宜,由於台積電在亞利桑那州的第一個產線將提供4nm與5nm製程,雖然並非台積電最先進的3nm製程,卻符合NVIDIA Blackwell製造所需的節點製程;NVIDIA並未選擇最先進製程的原因在於確保晶片的可靠度與價格的平衡,畢竟HPC晶片的重點在於安全與可靠,最先進製程雖然有助 Chevelle.fu 4 個月前
產業消息 nvidia 加速運算 Blackwell Rubin Blackwell Ultra 業界指稱NVIDIA有望提前半年公布下一代加速運算架構Rubin,進一步鞏固AI霸業 NVIDIA執行長黃仁勳在COMPUTEX 2024的主題演講上,提及後續GPU加速產品將循兩年一大改的節奏,並在新架構推出的隔年再推出記憶體性能升級版本的小改版;然而根據經濟日報引述產業說法,代號Rubin的NVIDIA加速架構可能會比預期提前6個月公布,同時也會使用3nm製程。 ▲傳Rubin的晶片將較Blackwell大一倍,由4個Tile構成 根據經濟日報指稱,NVIDIA將再度與親密戰友台積電密切合作,並積極打造首款基於3nm製程的AI HPC加速運算晶片;同時引述摩根士丹利分析師說法,Rubin將採3nm與共同光學封裝(CPO)與HBM4記憶體,尺寸較Blackwell增加兩倍,以 Chevelle.fu 4 個月前
科技應用 nvidia amazon aws Amazon EC2 AWS 升級雲端基礎架構 引入 NVIDIA Blackwell GPU 和自製 Trainium3 處理器 AWS 宣布將在新款 Amazon EC2 P6 Instances 伺服器中導入 NVIDIA 代號「Blackwell」的 GPU,並計劃於 2025 年推出以 3 nm 製程設計的自製 Trainium3 處理器,以提升人工智慧運算效能,滿足用戶多樣化需求。 除了宣布擴大自製處理器應用範疇,並且在伺服器導入更多因應人工智慧執行需求的客製化設計,AWS在re:Invent 2024活動上除了宣布將在其全新Amazon EC2 P6 Instances伺服器導入NVIDIA代號「Blackwell」GPU設計,更透露將於明年正式推出以3nm製程設計的Trainium3處理器,並且針對AWS雲 Mash Yang 4 個月前
科技應用 nvidia 亞馬遜 aws 加速晶片 Trainium2 亞馬遜啟動「射月」計畫 減少對 NVIDIA 加速晶片的依賴 亞馬遜傳出啟動「射月」計畫,計劃在 AWS 服務中部署超過 10 萬組自家設計的 Trainium2 處理器,以降低對 NVIDIA 加速晶片的依賴 在持續向人工智慧新創Anthropic加碼投資,使其擴大使用AWS平台服務之餘,亞馬遜目前更傳出內部已經啟動「射月」 (moonshot)計畫,將透過佈署超過10萬組客製化處理器Trainium2,藉此降低仰賴採購NVIDIA加速晶片的需求。 Trainium2是亞馬遜於去年底的re:Invent 2023大會上公布產品,標榜能以高於4倍推論效能,以及提升2倍電力使用效率,加速人工智慧模型訓練,並且降低整體訓練成本,而亞馬遜投資的Anthropi Mash Yang 5 個月前
科技應用 nvidia AI 生成式AI Fugatto NVIDIA推出連音樂人都說讚的Fugatto音樂生成式AI,不僅可創作片段還能修改既有音樂的樂器、曲調與情感 NVIDIA研究團隊公布一項針對聲音的生成式AI,稱為Fugatto,為Foundational Generative Audio Transformer Opus 1的縮寫,能夠輸入文字或音訊檔案並進行組合,藉此產生或轉換提示所敘述的音樂、語音與聲音的組合,比起現行用於作曲或修改聲音的音訊AI更為靈活,如可依據文字題式創作音樂片段、自既有音樂增減樂器、改變聲音的曲調或情感,或創作出未曾聽過的聲音,表示能將一首帶有感傷的音樂轉化為輕快的風格。 ▲Fugatto能夠產生音樂、也能根據描述修改既有音樂,還能將音樂的曲調、風格轉換與增減效果與樂器 Fugatto具體能做些甚麼?取得白金唱片的製作人暨 Chevelle.fu 5 個月前