產業消息 內顯 RDNA 3 RTX 2050 Ryzen AI Ryzen AI 300 AMD Ryzen AI 9 HX 370處理器工程版的內顯性能直逼NVIDIA RTX 2050 AMD在COMPUTEX公布符合微軟Copilot+ PC認證的Ryzen AI 300系列處理器,雖然在發表活動把溝通重點放在XDNA 2的NPU性能,不過畢竟Ryzen AI 300的CPU、GPU都升級到新架構,也令人好奇較現行Ryzen 8000系列有多少幅度的提升;根據微星在COMPUTEX的私下透露,Ryzen AI 300的CPU、GPU性能約較Ryzen 8000系列提高約20%,以配有16核RDNA3+ GPU的Ryzen 9 AI 9 HX 370其3DMark Time Spy達到3,600分,直逼NVIDIA入門獨顯RTX 2050。 ▲微星在展台的說法是Ryzen A Chevelle.fu 12 個月前
產業消息 RTX Token 生成式AI Copilot+ PC TOPS 詞元 NVIDIA專文介紹TOPS、Token與Batch Size,闡述搭載RTX獨顯 AI PC為何較僅有NPU的AI PC在生成式AI具壓倒性效能 歷經微軟在2024年5月宣布的Copilot+ PC計畫,並將其包裝成Windows陣營的進階AI PC,一夕之間整合於CPU的NPU的AI TOPS似乎成為衡量AI PC的戰力單位,套電影「賭神」的經典台詞:任何CPU只要有40 TOPS以上的NPU都可以稱為Copilot+ PC,不過一套性能強大的AI PC真的只要NPU夠強就行嗎?關於這點AI關鍵硬體龍頭NVIDIA肯定不會苟同,故在最新的「解碼AI」系列官方部落格專文,特別針對AI運算單位的TOPS、Token還有Batch Size與AI之間的關係進行解釋。 AI性能基礎計算單位:TOPS 如同遊戲使用FPS作為評量性能的單位一樣, Chevelle.fu 12 個月前
產業消息 nvidia gpu NVIDIA Hopper GPT-3 NVIDIA H100 大型語言模型 LLM LLaMA NVIDIA H200 NVIDIA H100最新MLPerf訓練測試基準較2023年以3.2倍GPU規模實現3倍以上的性能 NVIDIA持續引領AI產業硬體的關鍵在於不僅止於GPU硬體技術、還有與持續不斷精進的軟體與網路技術結合;NVIDIA公布最新MLPerf Training v4.0基準測試表現,在GPT-3 175B大型語言模型訓練的表現,以較2023年多出3.2倍的GPU數量實現3倍以上的性能增長,展現強大的軟體調校能使GPU數量與性能呈現幾乎1:1的擴充效率,也顯示在相同的硬體架構之下持續擴充規模仍可在軟體不斷增強獲得出色的成效。NVIDIA預期在NVIDIA Blackwell推出後,MLPerf測試基準成績將有更驚人的成果,並邁向訓練與推論的兆參數生成式AI模型世代。 NVIDIA在2023年使用3 Chevelle.fu 12 個月前
產業消息 美國政府 人工智慧模型 TikTok 母公司字節跳動傳透過甲骨文租用 NVIDIA GPU 訓練 AI 模型 字節跳動的租賃方式利用雲端算力繞過美國商務部的限制,也被阿里巴巴和騰訊等其他中國業者使用,美國政府可能將採取進一步措施來應對這種繞過禁令的方式。 The Information網站指稱,TikTok母公司字節跳動在美國政府施行嚴格技術出口禁令情況下,透過甲骨文提供租用NVIDIA H100 GPU算力的雲端服務,藉此訓練其服務背後的人工智慧模型。 雖然美國商務部曾計畫要求境內雲端運算業者驗證客戶身分,藉此限制中國等具風險對象利用資源訓練人工智慧模型,但後續顯然面臨不少業者以實際產生負擔可能變大為由,對此表示反對,使得相關法案提擬進度停緩,因此也讓位元組跳動能順利藉由網路租賃算力方式訓練其人工智 Mash Yang 1 年前
科技應用 nvidia 美國司法部 OpenAI 美司法部與 FTC 將調查微軟、OpenAI、NVIDIA 是否壟斷AI市場 美國司法部與聯邦貿易委員會將針對微軟、OpenAI 及 NVIDIA 進行調查,確認其在人工智慧領域是否涉及市場壟斷行為。 紐約時報引述消息人士說法,美國司法部及美國聯邦貿易委員會已經達成共識,將針對微軟、OpenAI,以及NVIDIA在內近期於人工智慧技術發展有明顯主導優勢的業者展開調查,確認其作法是否涉及市場壟斷。 由於自動生成式人工智慧技術在近期內成為主流發展,而在近年人工智慧技術發展中,NVIDIA提出的GPU加速作法也成為眾人採用作法,因此也讓NVIDIA的GPU產品搶下近90%市佔,因此也讓美國司法部質疑NVIDIA是否違反市場壟斷。 而微軟方面則是因為高額投資OpenAI,並且將 Mash Yang 1 年前
產業消息 COMPUTEX台北國際電腦展 智慧城市 聯發科 機器視覺 邊際運算 NVIDIA TAO NeuroPilot SDK COMPUTEX 2024:聯發科NeuroPilot SDK接軌NVIDIA TAO強化物聯網邊際AI應用 聯發科繼於2023年宣布與NVIDIA合作打造車載方案後,業界紛紛好奇雙方是否會把合作擴大到智慧手機或Windows on Arm領域,不過至少在COMPUTEX 2024雙方並沒有公布進一步的大型合作,但宣布一項重要的聯發科與NVIDIA的物聯網資源串接;聯發科宣布NVIDIA機器視覺工具NVIDIA TAO套件整合聯發科NeuroPilot SDK,並應用於邊際AI推論晶片開發,使聯發科邊際AI運算晶片Genio開發的產品能為不同規模的企業發展智慧零售、製造、醫療照護、交通、智慧城市。 ▲NVIDIA TAO是AI機器視覺開發套件,具備大量育訓練模型可進行客製化 聯發科Genio是針對物聯 Chevelle.fu 1 年前
產業消息 nvidia 伺服器 SUPERMICRO 人工智慧 日月光半導體 中華系統整合 Supermicro、NVIDIA 攜手台廠 高雄打造AI資料中心 Supermicro 將與日月光、中華系統整合合作在高雄建水冷資料中心,提升 AI 應用與節能效果。 Supermicro宣布將攜手日月光半導體、中華系統整合,預計在高雄建造導入新一代水冷散熱設計資料中心。而NVIDIA執行長黃仁勳在此次Computex 2024期間也透露將與鴻海合作建造資料中心,藉此強化人工智慧、電動車及機器人運算應用發展。 Supermicro此次合作,將由中華系統整合佈建,並且將Supermicro旗下水冷設計的人工智慧伺服器與節能技術整合至日月光半導體資料中心,藉此提升日月光半導體以人工智慧使研發、生產流程最佳化,同時也將透過水冷散熱方式降低資料中心碳排放量,更呼應推 Mash Yang 1 年前
產業消息 COMPUTEX台北國際電腦展 nvidia 高雄 鴻海 台積電 黃仁勳 COMPUTEX 2024:NVIDIA將與鴻海在高雄設置AI運算中心,預計未來5年在台設置設計中心但地點未定 NVIDIA執行長黃仁勳在逛至COMPUTEX 2024的鴻海集團子公司鴻佰攤位時,與鴻海集團董事長劉揚偉共同宣布雙方將在高雄設置AI運算中心,強化雙方於AI、電動車與機器人之間強化合作。 ▲黃仁勳表示NVIDIA與台灣關係密切且台積電又是親密戰友,選擇在台設立研發中心合情合理 此外黃仁勳也表示預計在未來5年內在台灣設置研發中心,強調NVIDIA長年深耕台灣,與台灣產業有深厚的情感,同時NVIDIA最棒的戰友台積電也在台灣,隨著NVIDIA越來越茁壯,選擇台灣設立新研發中心也相當合理;雖然目前NVIDIA在台灣的分公司位於台北,與鴻海的合作案於高雄,但NVIDIA目前仍在選擇合適的地點,有進一 Chevelle.fu 1 年前
科技應用 COMPUTEX台北國際電腦展 nvidia gpu COMPUTEX 2024 COMPUTEX 2024:黃仁勳表示 NVIDIA 不與蘋果競爭,專注開創未來 AI 技術 NVIDIA 執行長黃仁勳在 Computex 2024 表示,NVIDIA 專注於開創市場,不與蘋果競爭,強調技術創新與市場需求先行,推動 GPU 加速運算技術應用。 在此次Computex 2024受訪期間,被問及是否對蘋果接下來將於WWDC 2024公布的人工智慧應用發展有任何看法時,NVIDIA執行長黃仁勳表示不會與蘋果競爭,更強調雙方投入不同發展理念,本身則是更著眼於未來技術發展,不會等到市場有明確需求才作產品,而是設法開創發展市場。 NVIDIA仍扮演市場開創者身分 這樣的想法,如同NVIDIA最初希望以GPU改變遊戲市場,而後續更藉由GPU虛擬化、加速技術推動加速運算,使當前的人 Mash Yang 1 年前
產業消息 nvidia gpu cuda AI nvlink 黃仁勳 加速運算 UALink Ultra Ethernet COMPUTEX 2024:NVIDIA執行長笑看市場競爭:NVIDIA是前瞻技術逐夢者、多項私有技術已化為產業標準 NVIDIA執行長黃仁勳是COMPUTEX 2024的焦點人物,在結束開展前夕舉辦的主題演講後,黃仁勳在COMPUTEX正式開展第一天接連走訪夥伴攤位、幫車載技術合作夥伴聯發科站台後進行全球媒體問答,風趣的黃仁勳也不忘碎念在忙了一整天幾乎未進食之下好不容易趁機吃幾口的火雞三明治有點乾,但讓他稍稍補充體力可應對媒體發問。總結黃仁勳提到的,NVIDIA是一家築夢踏實的前瞻技術公司,在看不到明確未來前就勇於投入許多技術的挖掘與創新,如今也笑看競爭者的追隨。 NVIDIA認為UALink需要時間才能有初步成果,但此時此刻邁入第5代的NVLink也沒停下腳步 ▲黃仁勳強調NVLink已經推出7年歷經5代 Chevelle.fu 1 年前