微軟推出 Phi-2 自然語言模型 性能對比 Meta Llama 2 適用於手機筆電等裝置

2023.12.13 06:24PM
照片中提到了Built by、Microsoft Research、Announcing,包含了顯示裝置、語言模型、電腦、數據、軟件

微軟推出新的Phi-2自然語言模型,具有高效能且適用於智慧型手機和筆電,目前限於特定研究需求使用。

繼日前推出規模僅13億組參數的自然語言模型Phi-1之後,微軟稍早宣布推出參數增加為27億組,同時性能可對比Meta Llama 2 70億組參數版本,以及Mistral 70億組參數版本的Phi-2,並且能用於各類裝置佈署需求。

微軟強調Phi-2規模僅有Llama 2 70億組參數版本的38%大小,但是能發揮幾乎相同的性能表現,甚至比Google近期宣布推出的Gemini Nano有更高應用性能,並且在多步驟推理能有更快執行效率。

而Phi-2是透過96組NVIDIA A100加速器以14天時間訓練而成,目前尚未進行任何指令微調,或是進行人為手動調整,主要能應用在智慧型手機,或是筆電類行動裝置。

不過,目前Phi-2僅開放特定研究需求使用,尚未對外開放商業應用。