Meta 攜手微軟宣布新一代大型語言模型 Llama 2 ,免費開放研究與商業使用、與高通合作移植到 Snapdragon 平台裝置

2023.07.19 12:45PM

由於生成式 AI 的盛行與硬體技術不斷突破,作為對話應用與生成式 AI 基礎的大型語言模型的開發與研究進展也更為加速; Meta 宣布全新一代的開源大型語言模型 Llama 2 ,強調將免費提供研究與商業使用,同時強化與微軟 Microsoft 的長期合作關係,微軟將成為 Llama 2 商用化的特選夥伴,另外亦宣布攜手高通,將把 Llama 2 移植到基於 Snapdragon 技術的平台強化邊際 AI 技術; Meta 允諾負責人的建構 Llama 2 ,同時也將協助開發者落實相同承諾。

Llama 2 將自即日起於 Azure AI 模型目錄上線,開發者可透過 Micrososft Azure 建構並利用其雲端元生工具進行內容過濾與安全功能,同時 Llama 2 也針對 Windows 本機執行進行優化,使開發者在提供生成式 AI 予不同客戶也有無縫工作流程;除了 Azure 以外, Llama 2 也將在亞馬遜 AWS 與 Hugging Face 供夥伴取用。

強調與微軟雙方合作有助生態圈夥伴,雙方也將強化 PyTorch 在 Azure 應用

Meta 的 Llama 1 大型語言模型的使用申請已經超過 10 萬次,顯示研究者對於 Llama 1 已有龐大的需求; Meta 現在已完成分享新一代的 Llama 2 與開放用於商業用途的相關準備,包括預訓練模型與對話式的微調版本模型權重與原始碼; Meta 強調生態夥伴將可自 Meta 與微軟的長期合作夥伴關係明顯受益, Meta 與微軟將共同位可互換 AI 框架推出開放生態系統,同時也將共同撰寫相關論文藉此推動 AI ,同時 Meta 與微軟也將擴大 PyTorch 在 Azure 的應用。

另外,雙方藉由擴大夥伴關係,並在當前支持開放式創新的態度,將增加對基礎 AI 技術的使用;同時現在世界各地都有有著共同願景的支持者,包括前期應用 Llama 2 建構創新產品與分享回饋的公司,將 Llama 2 納入客戶服務產品的雲端服務供應商,致力於予 Meta 共同安全且負責任發展大型生成模型的研究機構,還有與 Meta 同樣預見未來效益的科技、學術與政策領域的人士。

社會責任仍為重要基礎

▲在發展 AI 的同時也須善盡社會責任與義務

在公布 Llama 2 的同時, Meta 也不忘消弭大環境對 AI 的疑慮,強調將聚焦在負責任的開發,表示透過開源促進 Llama 2 的透明度與可獲取性的同時也會伴隨風險, Meta 將自 Llama 2 的建構至協助開發者資源都將肩負責任;其中強調 llama 2 已經通過紅隊演練( Red-Teaming Exercises ),透過生成式對抗指令進行模型微調,並委託第三方針對微調過的模型進行外部對抗性測試,藉此識別性能上的不足,同時也將持續透過微調與基準測試確保安全性持續提升;另外也透過論文揭露模型的微調與評估方式與確認缺陷,並提供曾採取的緩解措施與未來預計的探索方式。

針對開發者, Meta 建立一套準則指南,與開發者分享負責任的開發與安全評估的最佳實踐方式,在只能中概述業界與 AI 研究社群間所討論出目前關於負責任生成式 AI 的最佳研究方式;另外 Meta 也制定了禁止某些案例的政策,確保 Llama 2 得以公平且負責任的被使用。

Meta 也透過新方式針對個人、研究人員、開發者的洞察與創造,蒐集關於模型表現成效與如何改進的回饋;其中透過開放創新 AI 研究社群,使學術研究者啟動新的合作夥伴計畫,研究人員可申請加入從業者社群,分享重要主題的相關經驗,社群也將制定研究議程推動未來發展;此外 Meta 也將發動 Llama 影響力挑戰賽,鼓勵大眾、非營路組織與營利單位,針對如氣候、教育與其它相關議題舉辦挑戰活動,激盪產業活用 AI 解決更多難題。