產業消息 CPU mcu soc RISC-V SiFive 大型語言模型 生成式AI 台灣RISC-V聯盟設立平台工作小組與AI大型語言工作小組，旨在使研發、設計至應用皆具導入RISC-V開放架構的能力 採取開源的RISC-V是許多晶片產業看好的核心架構，作為全球晶片產業聚集地的台灣也看到RISC-V的未來性成立台灣RISC-V聯盟(RVTA)；RVTA在聯盟會長林志明(晶心科技董事長暨執行長)倡議下組成兩個SIG(特別興趣小組)工作小組，並於近期取得聯盟執委會全數執行委員共識，希冀透過SIG工作小組深度交流，促使台灣產、學、研於RSIC-V應用合作，進一步使台灣產業自研發、設計至應用都具備導入RISC-V的技術與能力，預期再2024年9月11日2024 RISC-V Taipei Day展現工作成果。 ▲RVTA於2019年在台北電腦公會、台灣務聯網產業技術協會支持下成立，同時隸屬RISC- Chevelle.fu 1 年前
產業消息 nvidia AI ubitus 虛擬角色 大型語言模型 生成式AI Ubitus獲NVIDIA投資聯手促進亞洲雲遊戲與生成式AI，提供在地大型語言模型、圖像與影片擴散服務、AI虛擬角色等產品 日商優必達Ubitus K.K宣布獲得NVIDIA投資，雙方將攜手促進亞洲雲遊戲與生成式AI發展，藉Ubitus在亞洲長期投入雲遊戲與最新的生成式AI技術接軌，凸顯生成式AI與雲遊戲於亞洲與其他地區增長的潛力，Ubitus也將進一步提升於雲遊戲與生成式AI領域的客戶解決方案。 ▲Ubitus提供台灣在地化版的大型語言模型、圖像與影片擴散服務與AI虛擬角色三大生成式AI服務 Ubitus長期與NVIDIA合作擴展GPU雲端基礎設施，並包括遊戲、媒體、娛樂與零售等客戶提供在地化的生成式AI解決方案，目前提供三大AI產品，包括台灣在地化大型語言模型UbiGPT，圖像與影片擴散服務UbiArt，AI虛 Chevelle.fu 1 年前
產業消息 NVIDIA GTC nvidia AI SAP 生成式AI Copilot NIM GTC 2024：SAP攜手NVIDIA加速企業應用程式導入生成式AI，SAP雲端解決方案結合NVIDIA AI Foundry服務NVIDIA NIM為客戶打造客製化大型語言模型 SAP於NVIDIA GTC宣布雙方擴大合作關係，旨在提高企業客戶利用SAP雲端解決方案與應用程式結合資料與生成式AI進行數位轉型的能力；雙方正合作建置SAP BusinessAI，包括SAP Joule copilot與跨SAP雲端解決方案及應用程式組合中建構可擴展與特定業務的生成式AI，同時將促進相關、可靠與負責任的商業AI，並提供對廣泛大型語言模型LLM的即時存取。 SAP與NVIDIA計畫於2024年底前將NVIDIA AI Foundry服務NVIDIA NIM推論微服務整合至SAP的雲端解決方案。 SAP表示正在著手將生成式AI直接建構至能為全球企業提供動力的應用程式，作為該計畫的 Chevelle.fu 1 年前
科技應用 xai Grok-1 對外開源 參數規模 xAI 開源 3140 億參數大型自然語言模型 Grok-1 xAI 開源名為 Grok-1 的大型自然語言模型，參數規模達 3140 億，可依照實際需求進行客製化調整。 在Elon Musk透露將使旗下人工智慧公司xAI的Grok聊天機器人技術對外開源之後，xAI稍早宣布對外開源名為Grok-1、對應3140億組參數規模的大型自然語言模型。 xAI表示Grok-1採基本架構設計，並且對應多模運作，本身從零開始訓練，同時並未針對特定應用服務、功能作微調，因此基於對外開源使用的情況下，使用者可以依照實際需求進行客製化調整。 至於模型本身可相容Apache 2.0規範，因此能對應諸多網路應用環境，至於訓練叢集則是以JAX、Rust通用編譯型程式語言為基礎打造 Mash Yang 1 年前
產業消息 繁體中文 聯發科 mediatec 大型語言模型 LLM Breeze-7B 中英雙語 聯發科創新基地開源釋出中英雙語Breeze-7B大型語言模型，支援雙語且繁中推論僅需Meta或Mistral一半時間 聯發科創新基地繼2023年初釋出全球第一款繁體中文文本的大型語言模型(LLM)後，在2024年3月宣布開源支援中、英雙語的MediaTek Research Breeze-7B大型語言模型，基於開源界熱門的Mistral模型，相較先前繁體中文文本LLM增加20倍知識量，能掌握中、英文的語言與文化差異，呈現更自然且精確的雙語內容創作；聯發科創新基地強調在其對模型的最佳化，Breeze-7B執行繁體中文推論速度較70億參數級的Meta或Mistral僅需一半時間。 聯發科預告，下一代大型語言模型將以開源模型Mixtral為基礎，目標是470億(47B)級的大參數模型，並將在近期開放公眾測試。 ▲7 Chevelle.fu 1 年前
科技應用 meta Llama 3 Meta 7 月將推出新版大型自然語言模型 Llama 3 對決 OpenAI GPT-4 Meta大型自然語言模型Llama 3也將對應超過 1400 億組參數，並放寬安全限制，讓使用者能更進一步互動。 The Information網站引述消息指稱，Meta計畫在今年7月推出新版Llama 3大型自然語言模型，預計與OpenAI提出的GPT-4競爭。 不過，目前Meta尚未對此語言模型進行微調 (fine tune)，因此尚未確認Llama 3是否對應多模型態運作，但預期可對應超過1400億組參數，相較Llama 2對應700億組參數有更大規模表現。 由於先前Llama 2加入安全護欄設計，因此無法回覆被認定具有爭議的提問，而Meta顯然計畫將此限制放寬，讓Llama 3能與使用 Mash Yang 1 年前
產業消息 nvidia 大型語言模型 生成式AI NVIDIA NeMo LLM Hugging Face ServiceNow StarCode2 BigCode ServiceNow、Hugging Face與NVIDIA共同推出程式碼生成的開放大型語言模型StarCode2，提供3B、7B與15B三種模型大小 ServiceNow、Hugging Face與NVIDIA宣布共同推出開放大型語言模型StarCode2，可用於程式碼生成，提供效能、透明度與成本效益；StarCode2與由ServiceNow和Hugging Face共同管理的BigCode社群共同開發，經過619種程式語言訓練，能進一步在企業進行訓練與嵌入執行特定任務，諸如原始程式碼生成、工作流程生成、文章摘要等，開發人員可藉此加速創新與提升生產力。 StarCode 2提供三種模型大小，包括ServiceNow訓練的30億(3B)參數模型、Hugging Face訓練的70億(7B)參數模型，與透過NVIDIA NeMo建構以及在NV Chevelle.fu 1 年前
科技應用 Google Goose GEMINI Gemini 1.5 Pro Google 推出大型自然語言模型「Goose」協助內部員工編寫程式 Google內部推出「Goose」大型自然語言模型，協助內部員工更快編寫程式內容，並且加速新產品研發速度與工作效率。 Business Insider網站指稱，Google內部已經推出名為「Goose」的大型自然語言模型，藉此協助內部員工更快編寫程式內容，並且加速新產品研發速度與工作效率。 依照內部文件內容指出，「Goose」是由Google Brian、Deepmind與Google內部團隊合併為Google DeepMind之前合作打造的大型自然語言模型，目前僅以Google內部使用為主。 而從相關說明表示，「Goose」是以Google團隊過去25年以來工程專業知識打造，並且能回答Goo Mash Yang 1 年前
產業消息 CES消費性電子展 nvidia 工作站 RTX 40 大型語言模型 生成式AI CES 2024：NVIDIA與軟體與服務業者為RTX電腦、工作站帶來大型語言模型與生成式AI應用 NVIDIA是引領異構加速與GPU整合專屬AI加速的先驅者，在默默耕耘多年後也多次引領AI革新的浪潮，也率先引領透過AI增強的遊戲視覺體驗，在2024年CES，隨著微軟Windows的AI策略，多家搭載NVIDIA GPU的筆電、PC系統與工作站也無不強調與AI的結合；NVIDIA也藉CES 2024主題演講介紹當前NVIDIA用於增強AI PC體驗的各式生成式AI技術與工具。當前有超過一億台具備NVIDIA RTX GPU的設備獲得生成式AI增強使用體驗，其中包括NVIDIA TensorRT能應用於文字轉圖像的Stable Diffusion XL模型，以及可重製經典遊戲並透過AI重建高解 Chevelle.fu 1 年前
產業消息 nvidia ISSAC Sim 大型語言模型 生成式AI LLM CES 2024：生成式AI技術挹注NVIDIA Isaac平台使機器人更智慧，波士頓動力、Collaborative Robotics、Covariant、Sanctuary AI、Unitree Robotics等公司積極於機器人導入大型語言模型 自主機器人技術在許多工業領域相當重要，隨著生成式AI的崛起，自主機器人技術也迎來重大的技術與產業升級；NVIDIA機器人和邊緣運算副總裁Deepu Talla在CES 2024的主題演講介紹NVIDIA與合作夥伴如何將生成式AI和機器人結合，包括波士頓動力、Collaborative Robotics、Covariant、Sanctuary AI、Unitree Robotics等公司皆積極在機器人導入基於GPU加速的大型語言模型；藉由生成式AI，進一步使基於AI的自主機器人提升效率、降低成本並解決勞動力短缺。 作為生成式AI關鍵技術的核心，即是大型語言模型LLM，LLM可說是將大腦語言中心轉 Chevelle.fu 1 年前
