Meta 在 2023 年 7 月宣布新一代開源大型語言模型( LLM ) Llama 2 ,高通旋即宣布下一代 Snapdragon 平台將支援 Llama 2 ,為下一代旗艦 Android 手機帶來單機執行大型語言模型的可能性;作為高通競爭對手的聯發科也在 2023 年 8 月下旬公布將支援 Meta 的 Llama 2 ,並應於聯發科新世代 APU (不是 AMD 的 APU 而是人工智慧處理單元)與完整 AI 開發平台 NeuroPiliot ,並預告將於 2023 年末公布的新一代旗艦晶片組(天璣 9300 )將採用針對 Llaama 2 模型最佳化的 NeuroPilot 軟體堆疊,並搭配支援 Transformer 的新一代 APU 。
▲ Llama 2 提供多種規模的 LLM ,供高階行動裝置到大型 AI 伺服器彈性選擇
借助下一代平台升級的 AI 架構,以及 Llama 2 針對不同運算力設計提供多種大小的語言模型(至少示意圖上有著 Llama-2-7B ),聯發科天璣 9300 將與 Snapdragon 8 Gen 4 同樣能在不需聯網的前提執行相當程度的自然語言與生成式 AI 應用,能夠提升如語音助理、新一代影像 AI 等體驗,以及活用在系統管理(如智慧網路選擇、電池管理)等領域。