科技應用 meta LLaMA Hugging Face Meta Llama 開源模型下載量破 3.5 億次 Meta 宣布其開源大型自然語言模型 Llama 在 Hugging Face 平台下載量已達 3.5 億次，每月使用量增長 10 倍。 Meta宣布其以開源形式提供使用大型自然語言模型Llama已經在Hugging Face託管平台累積將近3.5億次下載量，對比去年同期累積下載量約成長超過10倍，其中在7月公布的Llama 3.1下載量就累積超過2000萬次。 目前Llama已經透過AWS、Azure、Google Cloud、NVIDIA、IBM、Snowflake、Groq、Databricks等業者服務提供使用，同時每月使用量更增加10倍以上，甚至在Hugging Face平台上更有超 Mash Yang 8 個月前
產業消息 nvidia gpu NVIDIA Hopper GPT-3 NVIDIA H100 大型語言模型 LLM LLaMA NVIDIA H200 NVIDIA H100最新MLPerf訓練測試基準較2023年以3.2倍GPU規模實現3倍以上的性能 NVIDIA持續引領AI產業硬體的關鍵在於不僅止於GPU硬體技術、還有與持續不斷精進的軟體與網路技術結合；NVIDIA公布最新MLPerf Training v4.0基準測試表現，在GPT-3 175B大型語言模型訓練的表現，以較2023年多出3.2倍的GPU數量實現3倍以上的性能增長，展現強大的軟體調校能使GPU數量與性能呈現幾乎1:1的擴充效率，也顯示在相同的硬體架構之下持續擴充規模仍可在軟體不斷增強獲得出色的成效。NVIDIA預期在NVIDIA Blackwell推出後，MLPerf測試基準成績將有更驚人的成果，並邁向訓練與推論的兆參數生成式AI模型世代。 NVIDIA在2023年使用3 Chevelle.fu 10 個月前
產業消息 nvidia TensorRT Stable Diffusion 生成式AI LLaMA TensorRT-LLM TensorRT-LLM 將提供 Windows 平台版本，助力生成式 AI 於 PC 提升 4 倍效能並支援 Llama 2 與 Code Llama 等新式 LLM NVIDIA 宣布原本供資料中心使用的 TensorRT-LLM 將登陸 Windows 平台，使生成式 AI 於具備 RTX 硬體的 PC 提升 4 倍的效能， TensorRT 能為如 Llama 2 、 Code Llama 等新一代代行語言模型加速推論效能； NVIDIA 也同步推出協助開發者加速 LLM 執行的工具，包括使自訂模型可相容 TensorRT-LLM 的腳本、 TensorRT 最佳化的開源模型與展示 LLM 反應速度與品質的開發人員參考專案。此外， TensorRT 加速技術可用於 Automic 1111 發布的熱門 Web UI 的 Stable Diffusion Chevelle.fu 1 年前
產業消息 微軟 AI meta 大型語言模型 生成式AI LLM LLaMA Llama 2 Meta 攜手微軟宣布新一代大型語言模型 Llama 2 ，免費開放研究與商業使用、與高通合作移植到 Snapdragon 平台裝置 由於生成式 AI 的盛行與硬體技術不斷突破，作為對話應用與生成式 AI 基礎的大型語言模型的開發與研究進展也更為加速； Meta 宣布全新一代的開源大型語言模型 Llama 2 ，強調將免費提供研究與商業使用，同時強化與微軟 Microsoft 的長期合作關係，微軟將成為 Llama 2 商用化的特選夥伴，另外亦宣布攜手高通，將把 Llama 2 移植到基於 Snapdragon 技術的平台強化邊際 AI 技術； Meta 允諾負責人的建構 Llama 2 ，同時也將協助開發者落實相同承諾。 Llama 2 將自即日起於 Azure AI 模型目錄上線，開發者可透過 Micrososft Az Chevelle.fu 1 年前
科技應用 meta 大型語言模型 LLaMA Meta 計劃將大型語言模型 LLaMA 商業化 提升市場競爭力 Meta正計劃將其大型語言模型LLaMA商業化，讓企業和新創公司可以使用此模型來創建應用服務，提高對OpenAI、Google和微軟等公司的競爭力。 金融時報報導指稱，Meta準備將今年初公佈的大型語言模型LLaMA (Large Language Model Meta AI)轉為商用，讓企業或新創業者能以此模型建立應用服務。 而將LLaMA轉為商用，預期Meta將以此與OpenAI、Google、微軟在內業者競爭。 在先前公布細節中，LLaMA參數規模介於70億組至650億組，並且能在單張顯示卡上完成運算，因此凸顯其應用彈性。 新版商用版本預計以更廣泛形式對外提供使用，並且允許企業以客製化形 Mash Yang 1 年前
