產業消息 CPU ARM meta ARM CORTEX Arm Neoverse Llama 3.2 Arm持續攜手Meta使Arm CPU加速與擴展最新Llama 3.2大型語言模型推論能力 大型語言模型LLM是目前生成式AI發展的關鍵，隨著裝置端AI的需求出現，使得邊際裝置也需具備一定大型語言模型的執行能力，其中由Meta推出的開源大型語言模型LLM由於提供多元參數大小，被廣泛的應用於雲端與裝置端AI；作為提供自行動裝置、PC與伺服器CPU架構的Arm長期與Meta合作，宣布強化Arm CPU執行Llama 3.2 LLM的能力，整合開源創新與Arm於運算平台優勢，使各種基於Arm CPU的裝置都能流暢的執行不同大小的Llama 3.2語言模型推論。 ▲透過與Meta緊密的合作，使Arm CPU能夠於執行大型語言模型推論完整發揮效能 Llama 3.2 LLM提供廣泛的參數，其中 Chevelle.fu 7 個月前
蘋果新聞 Apple Intelligence 蘋果 Apple Intelligence 服務擴展至更多語言，但歐盟、中國仍缺席 蘋果確認 Apple Intelligence 服務年底前擴展至更多英語系國家，明年將支援中文、法文、日文、西班牙文等語言，以及德文、義大利文、韓文、葡萄牙文和越南文，但歐盟和中國地區仍無法使用此服務。 蘋果日前在秋季發表會確認「Apple Intelligence」服務將會在10月先從美國市場提供，而今年底前將會進駐更多使用英語的國家地區，明年則會加入支援中文、法文、日文與西班牙文等語言，稍早更確認會加入德文、義大利文、韓文、葡萄牙文與越南文等語言。 依照蘋果說明，「Apple Intelligence」服務在10月正式推出時，僅先在美國地區提供使用，預計今年底前會接續在澳洲、加拿大、紐西蘭 Mash Yang 7 個月前
科技應用 OpenAI GPT OpenAI 推出全新自然語言模型「o1」 強調「深思熟慮」提升解答準確度 OpenAI 最新自然語言模型「o1」強調如同真人般思考，透過推論、驗證等方式解決問題，提升解答準確率。 OpenAI稍早公布其名為「o1」的自然語言模型，標榜能以較多時間進行」思考」，藉由推論、以不同方式解決問題，並且能從錯誤中修正，藉此增加解答準確率。 自然語言模型預期就是先前傳聞代號「Strawberry」的產品，強調如真人般思考，同時也會從經驗中學習。 跟其他自然語言模型一樣，OpenAI在推出「o1」預覽版本之餘，同時也提供對應輕量化運算需求、反應速度更快的「o1-mini」。前者目前僅開放OpenAI服務付費用戶測試，同時現階段也有嚴格的30組訊息使用量限制，而後者則同樣僅限付費用 Mash Yang 8 個月前
產業消息 nvidia NIM Llama-3-Taiwan-70B Llama-3-Swallow-70B NVIDIA AI Enterprise 主權AI NVIDIA於日本、台灣推出用於生成式AI微服務，藉4項全新微服務提供先進文化與語言熟練度的主權AI應用 作為引領AI技術的NVIDIA積極協助各國發展主權AI，於2024年8月27日宣布推出四款全新的NVIDIA NIM微服務，除了支援社群常用的各種AI模型，並可針對地區需求量身打造，藉此因應當地語言、文化進行精確理解與回應，使其符合在地化需求；同時NVIDIA也同步宣布在日本與台灣推出用於生成式AI的微服務，包括以日本資料訓練的Llama-3-Swallow-70B與利用台灣資料訓練的Llama-3-Taiwan-70B，協助日本與台灣提供在地化的主球AI服務。 從通用模型至在地語言模型進而打造主權AI 隨著AI技術逐漸成為新一代科技趨勢，現在全球都在積極追求與發展主權AI，包括新加坡、阿拉伯 Chevelle.fu 8 個月前
產業消息 nvidia 邊際運算 語言模型 大型語言模型 生成式AI LLM Mistral-NeMo-Minitron 8B NVIDIA推出Mistral-NeMo-Minitron 8B語言模型，僅有80億參數規模但精度不遜120億版本 現在在邊際裝置執行大型語言模型的困難是參數規模，理論上相同技術但參數越大具備更優異的精確度與性能，不過考慮到邊際裝置的運算性能、記憶體等條件，又需要在規模與性能取捨；NVIDIA繼2024年7月攜手Mistral AI公布開源Mistral NeMo 12B模型後，再度推出以其為基礎精簡的Mistral-NeMo-Minitron 8B，雖然參數規模自120億縮減至80億，但精度與性能毫不遜色，足以於NVIDIA RTX技術驅動的工作站執行聊天機器人、虛擬助理、內容生成等應用。 此外，對於希冀在算力與記憶體更有限的設備執行特定功能的邊際運算生成式AI，如智慧手機、機器人、嵌入式平台執行更小規模 Chevelle.fu 8 個月前
遊戲天堂 NPC 大型語言模型 生成式AI NVIDIA ACE Nemotron 科幻機甲對戰遊戲Mecha Break展示採用NVIDIA ACE的新一代遊戲NPC互動技術，全新4B參數大型語言模型能在主機執行 生成式AI技術對於遊戲產業不僅止於美術領域，NVIDIA也希冀大型語言模型LLM能為遊戲的NPC角色賦予更逼真的互動體驗，並自2023年的Computex開始展示NVIDIA ACE數位人技術，一路自單一的NPC角色、NPC彼此之間的互動到透過一台搭載RTX顯示卡的電腦單機進行展演；而NVIDIA在Gamescom 2024攜手近未來科幻機甲遊戲Mecha Break進行展示，首次在商業遊戲環境展示結合NVIDIA ACE與數位人的NPC技術，並藉由全新的Nemotron-4 4B Instruct模型在裝置端直接執行流暢的對話。 ▲最新的ACE NIM將語言模型提升至Nemotron-4 4 Chevelle.fu 8 個月前
產業消息 Snapdragon 高通 大型語言模型 生成式AI LLM Llama 2 Snapdragon 7s Gen 3 高通公布Snapdragon 7s Gen 3平台，將能執行大型語言模型的AI下放至平價手機 雖然AI功能已經廣泛使用在智慧手機，不過當前提到AI手機，則莫過於需要支援生成式AI功能，只是目前真正可執行生成式AI的智慧手機多為高階機種以上，但高通正開始使主流機型也能享受生成式AI，使更多用戶感受AI與生活的結合；高通宣布推出Snapdragon 7s Gen 3平台，除了增強的性能以外，還可支援如Baichuan-7B、1B級的Llama 2等大型語言模型。搭載Snapdragon 7s Gen 3的裝置預計於2024年9月問世，包括Realme、三星、Sharp、小米等都將推出採用Snapdragon 7s Gen 3的終端產品。 ▲Snapdragon 7s Gen 3強調可執行大 Chevelle.fu 8 個月前
新品資訊 Made by Google Pixel 9 Pixel 9 Pro Pixel 9 Pro XL Tensor G4 Pixel 9 Pro Fold Pixel Buds Pro 2 Tensor A1 Pixel Watch 3 Pixel 9、Pixel 9 Pro XL與Pixel 9 Pro Fold實機動眼看，全新鏡頭模組設計語言還強調更耐用 Google在2024年8月14日的台灣Made by Google硬體發表場次同步展示產品，包括Pixel 9、Pixel 9 Pro XL、Pixel 9 Pro Fold、Pixel Watch 3、Pixel Buds Pro 2，唯獨上市時間較晚的Pixel 9 Pro僅有靜態展示。 產品規格細節詳見發表會懶人包：Google發表會懶人包：4款Pixel 9手機、Pixel Watch 3智慧手錶、Pixel Buds Pro 2無線耳機、Gemini應用總整理 延續Pixel 6但相似卻又不同的設計語言 ▲Pixel 9系列的鏡頭列不再自邊框延伸 ▲Pixel 9 Pro Fold Chevelle.fu 9 個月前
產業消息 nvidia AI 生成式AI Copilot OpenUSD NIM NVIDIA公布適用於OpenUSD的語言、幾何、物理與材料的生成式AI與NIM微服務，建構OpenUSD資產更容易 作為OpenUSD的重要推廣者與AOUSD組織創始成員的NVIDIA在SIGGRAPH 2024除了積極提倡OpenUSD以外，也結合自身最擅長的GPU與AI運算以及AOUSD聯盟夥伴使開發OpenUSD的數位資產變的更容易；NVIDIA宣布適用於語言、幾何、物理與材料的生成式AI與NIM微服務，可加速OpenUSD的開發工作流程。 NVIDIA推出可因應用戶查詢、產生OpenUSD Ptthon程式碼、將材質應用於3D物件、理解3D空間與物理的生成OpenUSD語言的NVIDIA NIM微服務；此外透過連接機器人、工業模擬資料格式與開發工具的新USD連接器可將大量且具備光線追蹤的數據傳輸至A Chevelle.fu 9 個月前
蘋果新聞 SWIFT C Swift 6 編寫程式 蘋果力推 Swift 程式語言 盼取代 C++ 蘋果程式語言與運行環境總監 Ted Kremenek 建議程式設計人員放棄 C++，轉向 Swift 編寫程式，強調其安全性、執行效率及易用性。 今年在WWDC 2024期間宣布在新版Xcode 16加入名為Swift Assist的輔助功能，讓開發者僅需透過單條指令即可快速產生程式碼建議內容，或是協助修正程式碼編寫錯誤部分之餘，蘋果程式語言與運行環境總監Ted Kremenek認為程式設計人員應該放棄使用傳統的C++程式語言，轉向使用Swift編寫程式。 先前蘋果說明中，只要程式人員會使用C++編寫程式，對於Swift就一定能夠駕輕就熟，同時也強調Swift與傳統C語言、C++的互通性，並且 Mash Yang 10 個月前
