AMD 25.8.1驅動使Ryzen AI Max+ 395支援128B參數大型語言模型 充分應用GPU分配到的96GB記憶體

2025.07.30 11:28AM

AMD於CES公布Ryzen AI Max處理器時展演在整合型處理器執行Llama 70b的大型語言模型,隨著AMD於2025年7月釋出Adrenalin Edition 25.8.1驅動,AMD進一步解放具128GB記憶體的Ryzen AI Max+ 395處理器的潛力,使這款GPU最大可分配到96GB記憶體的處理器足以執行128B參數的大型語言模型,並率先成為全球首款可執行Llama 4 Scoyt 109B混合模型的AI PC處理器。

▲新驅動解放Ryzen AI Max+ 395支援的模型大小

Meta Llama 4 Scout 128B屬於混合專家模型(MoE),實際上是在128B參數中載有大量且多元的模型,僅在需要時使用約17B參數的內容,執行模型時並不需要執行完整的128B參數,不過由於所有模型都需存放在記憶體快取內,故仍需要充裕的記憶體空間存放模型。

▲混合專家模型Llama 4 Scout 128B雖然參數達128B,但實際執行僅使用當中的17B參數

透過llama.cpp進行4-bit to 16-bit的量化壓縮後,即可把Meta Llama 4 Scout 128B模型存放在96GB記憶體空間內這;由於在執行時僅使用當中的17B參數,表示由於Meta Llama 4 Scout需要執行的模型實際尺寸不大,以Ryzen AI Max+ 395的運算力即可實現迅速的反應,每秒約可產生15個Token。

▲Ryzen AI Max+ 395的上下文本支援將近一般處理器的60倍

也由於運算性能、更大的記憶體,Ryzen AI Max+ 395另一項突破是能夠支援更大的上下文本,相較一般消費級處理器約可達4,096個Token,Ryzen AI Max+ 395則可實現達256,000個Token。

相關消息

科技應用
EVOX《對話式 AI 白皮書》:掌握 AI 商務溝通新趨勢
癮特務
2 天前
即拍即印普普風概念印章,製造屬於自己的圖像
annti wang
15 年前
App
三星One UI 8以Android桌面模式取代DeX
Chevelle.fu
2 天前
《奇妙之旅》家族競技展開 熱鬪場內容介紹
皮耶哈
15 年前
汽車未來
全新改款 BMW iX 豪華純電旗艦休旅強勢上市!「THE NEW BMW iX」現場直擊,亮點分享一次了解!
癮特務
8 天前
應用教學
國家鐵道博物館開館 6處古蹟、8大展覽必參觀 藍皮火車預約搭乘方法看這裡
Zero圈圈
10 個小時前
快訊
伊良可樂台灣首店即將開幕!排不到可以試試這款糖漿,肥仔快樂水自己做。
Shopping guide
17 個小時前
文化創意
日本Sony宣布LinkBuds Fit與初音未來合作 限量500套加贈壓克力架與AR模型
Chevelle.fu
18 個小時前
開箱評測
2吋大螢幕、7.9mm羽量級厚度 Garmin Venu X1智慧手錶評測心得
Tandee
9 個小時前