大型語言模型全攻略 (150041)

產業消息 nvidia MLPerf 大型語言模型 Blackwell Llama 3.1 AI代理多模態

NVIDIA Blackwell再度於MLPerf Training展現壓倒性性能，強調也是唯一提交所有V5.0測試項的平台

隨著基於NVIDIA Blackwell架構的系統陸續上線，NVIDIA與合作夥伴再度於新一輪的MLPerf提交測試結果，並呈現全面且壓倒性的領先優勢，這也是自2018年MLPerf基準測試推出後的第12輪測試，而NVIDIA在每一輪皆繳出最大規模效能，此次也實現在最新一版MLPerf v5.0基準測試繳交所有測試成果、包括Llama 3.1 405B預訓練的所有成果，是唯一提交所有MLPerf v5.0基準測試結果的平台，展現在大型語言模型、推薦系統、多模態大型語言模型、物體偵測與圖神經網路(GNN)的全面性。 ▲NVIDIA也繳交基於x86平台的DGX B200測試結果 NVIDIA此次大

Chevelle.fu

1 個月前

產業消息 AMD RDNA 4 大型語言模型生成式AI 加速卡 Radeon RX 9070 XT DeepSeek 多模態推論 Radeon AI PRO R9700

Computex 2025：AMD宣布高達32GB VRAM的Radeon AI PRO R9700專業顯示卡，支援多卡組態著重邊際執行AI模型的可能性

繼Intel於Computex 2025公布主打較同級產品具備更高記憶體容量的Arc Pro B系列後，AMD也同樣宣布基於RDNA 4的Radeon AI PRO R9700專業顯示卡，提供高達32GB的單卡記憶體與支援多顯示卡組態，此外相較過往專業卡的品牌識別在名稱進一步添加AI，顯示Radeon AI PRO R9700專業顯示卡著重在邊際AI相關應用，與此次活動發表、具備最多128條PCIe Gen 5的AMD Ryzen Threadripper 9000 HEDT處理器搭配可發揮出色的綜效。 ▲Radeon AI PRO R9700將由多家合作夥伴於6月推出 Radeon AI P

Chevelle.fu

1 個月前

產業消息 COMPUTEX台北國際電腦展人工智慧 Intel Xe Battlemage Arc Pro 大型語言模型 DeepSeek 生成式 AI

Computex 2025：Intel公布Arc Pro B50、Arc Pro B60專業GPU，高容量記憶體治百病、8張B60串接達192GB VRAM

Intel在Computex宣布推出基於第二世代Arc的Battlemage架構的Arc Pro專業GPU，包括70W TGP級距的Arc Pro B50，以及單卡高達24GB VRAM以及提供因應散熱組態廣泛TDP設定的Arc Pro B60，其中Arc Pro B60強調可在Linux環境下實現8卡串接、共192GB VRAM的容量，以高成本效益具備高速執行70B及以上參數模型的能力。Arc Pro B50、Arc Pro B60將鎖定如圖形工作站、基礎設施與邊際AI裝置。 ▲Arc Pro B50與Arc Pro B60預計在第三季上市、完整功能將在第四季釋出 ▲Arc Pro B系列的

Chevelle.fu

1 個月前

產業消息 nvidia 研華 Max-Q 大型語言模型生成式AI Blackwell RTX PRO

NVIDIA RTX PRO 6000 Blackwell Edition台灣早鳥優惠售價達293,000元，標準功率與MAX-Q版價格相同

NVIDIA於GTC 2025公布基於Blackwell架構的RTX PRO系列顯示卡，並陸續在2025年5月開賣，其中配有高達96GB GDDR7 ECC記憶體的RTX PRO 6000 Blackwell版本也是許多AI與專業內容創作者覬覦的頂級產品；其中作為NVIDIA專業產品通路之一的研華科技在社群投放早鳥優惠廣告，包括標準電壓與Max-Q低電壓版本於2025年6月23日前預購，可享293,000元的優惠價格，預計在8月初出貨。此外由於是專業產品，研華強調可提供案場規劃及軟硬整合的諮詢服務。 ▲上方600W標準版本使用與RTX 50創始版相同的散熱設計，下方MAX-Q版本為鼓風扇設計(

Chevelle.fu

1 個月前

雲端服務大型語言模型 Amazon Bedrock AWS AI 生成式 AI Claude 3 Opus

生成式 AI 新帝王 Anthropic Claude3 Opus 震撼登陸 Amazon Bedrock

在生成式 AI 激烈競爭的2024年，一場革命性的變革正在上演。Anthropic 公司旗下最新一代大型語言模型 Claude 3 Opus 以驚人的實力超越群雄，在 Hugging Face 的 Chatbot Arena 排行榜中獨佔鰲頭，成為新一代生成式 AI 的領軍者。今天開始透過 Amazon Bedrock，任何人都可以輕鬆訪問和部署這款頂尖大型語言模型，在生成式 AI 上開啟創新無限可能。生成式 AI 新王 Anthropic Claude 3 Opus 在 Chatbot Arena 排行榜中大放異彩 Chatbot Arena 是一個公平透明的生成式AI評估體系，由數百名人

2 個月前

產業消息 nvidia 機器人 GTC 工業自動化 Computex 數位孿生大型語言模型生成式AI

NVIDIA將於COMPUTEX 2025期間舉辦NVIDIA GTC Taipei大會，三日活動包括全天實作坊

NVIDIA將在2025年COMPUTEX期間複製2024年模式，於活動當中的5月19日至5月22日於台北漢來大飯店舉辦NVIDIA GTC Taipei分場活動與工作坊，由NVIDIA專家與全球開發者、客戶與合作夥伴互動，提供最新的AI技術、產業數位化、機器人與大型語言模式趨勢，並針對專業從業者提供實作坊與訓練課程。 NVIDIA GTC Taipei：活動頁面與報名 ▲實作坊提供NVIDIA Omniverse建立物理AI數位孿生與運用大型語言模型(LLM)快速開發應用兩大主題供選擇參與自即日起至2025年4月30日止提供早鳥報名優惠，原價60美金(新台幣2,000元)的大會通行證資格優

Chevelle.fu

2 個月前

產業消息 Google AI 新創 DeepMind 大型語言模型生成式AI

前DeepMind員工指稱Google除了競業條款還加碼一年獎金避免離職員工迅速跳槽

根據Business Insider引述自兩名資深的前DeepMind員工爆料，Google為了避免員工離職後迅速跳槽到競爭對手的公司，除了就業合約明確訂立競業條款的效期以外，為了避免他們受到競業高薪的誘惑寧可違約支付違約費，還會為他們提供一份額外的大禮：等同一年份薪水的獎金。簡單的說離職員工如果能夠安穩在競業條款的時間內不跳槽，就能再拿到一份離職大禮。 ▲兩名爆料的前DeepMind員工都曾參與Gemini AI開發當然就跟台灣在報導大企業的年終獎金一樣，不是所有員工都站在相同的基準上，這兩位前DeepMind員工都是曾參與Gemini AI的重要員工；而他們表示要求六個月內不得跳槽至同質

Chevelle.fu

2 個月前

產業消息在地化蒸餾大型語言模型 LLM 推論模型 Formosa-1

APMIC攜手Twinkle AI推出可在手機端執行的台灣在地化繁中推論模型Formosa-1，同時推出推論模型測試工具Twinkle Eval

隨著基於大型語言模型、多模態模型的各式生成式AI廣為流行，同時智慧手機、筆電也紛紛具備足以在裝置端執行小規模大型語言模型的能力，輔以DeepSeek的推波助瀾，現在越來越多生成式AI提供精巧且高效能的小參數版本，不過畢竟每個國家國情不同，更需要針對在地化語言、風俗的模型；其中於2017年於台灣創立、並為NVIDIA微調模型生態系夥伴的APMIC與繁中語言模型研究社群Twinkle AI宣布推出足以在智慧手機執行的3B參數推論模型Formosa-1，同時雙方也開發評測框架Twinkle Eval。 APMIC與Twinkle AI宣布將持續強化合作，共同推動繁體中文AI生態發展 Formosa-

Chevelle.fu

2 個月前

App Google GEMINI 大型語言模型生成式AI Pixel 9 Galaxy S25 Gemini Advanced Gemini Live

Google Pixel 9系列與Galaxy S25系列率先啟用Gemini Live With Camera，利用相機及螢幕與Gemini體驗全新互動方式

Google宣布擴大Gemini Live功能的應用範圍，率先為自家的Pixel 9系列與合作密切的三星的Galaxy S25系列導入Gemini Live With Camera，只要是兩系列旗艦機用戶並訂閱Gemini Advanced，將Gemini更新到最新版本後，即可使用手機的鏡頭或是螢幕畫面與Gemini展開全新互動方式。 ▲Gemini Live With Camera可說是Project Astra具體實現的第一步 Gemini Live With Camera可說是2024年Google IO大會演示的Project Astra的延伸，利用手機鏡頭、螢幕結合Gemini進行即

Chevelle.fu

2 個月前

產業消息 NVIDIA GTC nvidia 資料中心工作站行動工作站推論加速器大型語言模型生成式AI Blackwell RTX PRO

GTC 2025：NVIDIA針對工作站、伺服器推出NVIDIA Blackwell RTX PRO GPU，提供資料中心、桌上型與筆電三種組態、最高96GB GDDR7配置

繼AI加速運算與消費級GeForce產品後，NVIDIA於GTC 2025宣布推出NVIDIA Blackwell RTX PRO產品線，提供資料中心、桌上型與筆記型電腦三種型態的GPU，其中伺服器與桌上型GPU產品最大記憶體配置達96GB，筆電GPU最大達24GB，可提供加速運算、AI推論、光線追蹤與神經渲染等應用，附帶一提的是RTX PRO產品定位可視同過往的Tesla與Quadro產品線的整合，聚焦視覺化、模擬與科學運算三大應用類型。 NVIDIA Blackwell RTX PRO於資料中心GPU提供NVIDIA RTX PRO 6000 Blackwell伺服器版本，桌上型電腦GPU

Chevelle.fu

3 個月前

# 大型語言模型全攻略

新文易數

相關文章