LLM 全攻略 / 熱門 (150772) - Cool3c

最新 | 熱門

照片中提到了我們正處於人工智慧的 iPhone 時代，包含了黃健森、黃健森、英偉達 GTC、英偉達、超級電腦

NVIDIA 執行長黃仁勳為何會說現在是 AI 的「 iPhone 時刻」， NVIDIA 在這場 AI 戰爭又扮演甚麼角色

NVIDIA 執行長黃仁勳在年度活動 GTC 2023 時，提出現在將是 AI 的「 iPhone 時刻」的論調，對於以 GPU 異構加速運算將 AI 從僅有基本功能發展至現在看似蓬勃發展現況的 NVIDIA ，貌似 AI 的「 iPhone 時刻」早已開始，為何黃仁勳現在再度提出接下來才是 AI 的「 iPhone 時刻」的論點。所謂的「 iPhone 時刻」指的是如當年在 iPhone 之前早已有智慧手機(如 Nokia Symbian 、 Windows Phone 等)，但智慧手機真正奠定現在所認知的特性、功能卻是直到蘋果推出 iPhone 後才有了雛形，同時也帶動智慧手機的積極發展

Chevelle.fu

高通宣布與 Meta 合作強化終端 AI 技術，自 2024 年起為旗艦智慧手機與 PC 提供 Llama 2 大型語言模型技術

高通積極推廣混合式 AI 概念，並強調借助使終端設備具備更強大的 AI 性能，能夠縮減使用延遲並提升個人隱私；高通在 2023 年的 Snapdragon Summit 前夕宣布與 Meta 合作，雙方將針對使邊際設備執行 Meta 的 Llama 2 大型語言模型進行合作，提供 2024 年的旗艦手機、 PC 平台能夠獨立執行 Llama 2 ，不需仰賴連接到雲端平台。高通最終的目標是使除了智慧手機、 PC 以外野能在 VR / AR 頭戴設備與汽車執行 Llama 2 等生成式 AI 。高通與 Meta 的目標是提供 2024 年的高階 Snapdragon 平台能執行 Liama 2

Chevelle.fu

AMD 正式公布 Instinct MI300A 資料中心級 APU 與針對生成式 AI 的 Instinct MI300X 加速器，皆為小晶片架構與 HBM3 記憶體

AMD 在 2023 年 6 月中資料中心發表會的重頭戲，即是宣布全新的 Instinct 300 系列加速器產品，除了已於 CES 預告的首款資料中心級 APU 產品 Instinct MI300A 以外，還有鎖定生成式 AI 需求、高達 192GB HBM3 記憶體的 Instinct MI300X 加速器； Instinct MI300A 與 Instinct MI300X 皆採用小晶片設計，混合 5nm 與 6nm 製程晶粒。以產品特質而言， Instinct MI300A 與 Instinct MI300X 頗有與 NVIDIA 的 Grace Hopper Superchip 與

Chevelle.fu

照片中提到了CRECTITTAL、CAXIAL、CARL，包含了屏幕截圖、平面設計、多媒體、文本、設計

GTC 2023 ： NVIDIA 成立 NVIDIA AI Foundations ，助企業建構、改良與操作自定義大型語言模型與生成式 AI 模型

NVIDIA 在 GTC 宣布成立 NVIDIA AI Foundations 機構，以基於 LLM 大型語言模型延伸的 NVIDIA NeMo 語言服務、 NVIDIA Pacasso 影像服務與 NVIDIA BioNeMo 生物學三大領域，幫助企業能夠建構、改良與操作自定義大型語言模型與生成式 AI 模型，而與隱私權較無爭議的 NeMo 與 Picasso 能夠利用 NVIDIA DGX Cloud 提供基於雲的服務，便於開發者不須擁有伺服器，可透過瀏覽器連接到公有雲服務直接進行開發。其中 Adobe、Getty Images、Morningstar、Quantiphi 和 Shutt

Chevelle.fu

照片中提到了Google Cloud、NVIDIA、NVIDIA Google Cloud E‡â½，跟英偉達、谷歌光纖有關，包含了天空、方舟：生存進化、個人電腦、按訂單生產、牌

GTC 2023 ： NVIDIA 聯手 Google Cloud 開發大型語言模型與生成式 AI 推論平台， Google Cloud 將為首家 NVIDIA L4 GPU 執行個體供應商

NVIDIA 宣布攜手 Google Cloud 加速推動各行業的生成是人工智慧應用程式，旨在使開發者能取得最新技術，助其快速以符合成本效益的方式啟動與執行新應用程式，同時 Google Cloud 也將率先成為首家提供 NVIDIA L4 GPU 執行個體的雲服務供應商，使客戶能受益於全新架構設計應用於人工智慧影像技術，相較 CPU 具備 120 倍的人工智慧影像效能，同時提高 99% 能源效率。 Google Cloud 將透過新款 G2 虛擬機器自即日起開放非公開預覽，同時 Google 也預計將 L4 GPU 應用於其下 Vertex AI 機器學習平台。 NVIDIA 預計於 3 月

Chevelle.fu

照片中提到了<>、1.1.，包含了電腦牆紙、產品、產品設計、牌、設計

NVIDIA H100 GPU 於 MLPerf 首次亮相即創下生成式 AI 新標竿， CoreWeave 的 H100 GPU 集群在 11 分鐘完成 GPT-3 模型訓練

在 AMD 、 Intel 仍將 AI 性能指標的對照組放在前一世代的 NVIDIA A100 ，新一代的 NVIDIA H100 已經蓄勢待發； NVIDIA 宣布 NVIDIA H100 GPU 在 MLPerf 基準測試的首次亮相即位生成式 AI 樹立全新指標，由雲服務商 CoreWeave 以 3,584 個 NVIDIA H100 構成的大型集群在 11 分鐘內完成基於 GPT-3 大型模型的訓練，顯示 NVIDIA H100 在生成式 AI 的大型語言模型訓練有飛躍性的突破表現。 NVIDIA 預計在 2024 年公布 NVIDIA H100 後繼的 AI HPC 加速 GPU 產

Chevelle.fu

照片中提到了CT、AMD INSTINCT™ MI200 SERIES、AMD INSTINCT™，跟樂高集團有關，包含了顯示裝置、py、中央處理器、AMD公司、服務器

結合 PyTorch 2.0 與 ROCm 5.4 的 AMD Instinct MI250 已在大型語言模型逐漸追上 NVIDIA A100

受到 NVIDIA 先期投入市場的軟硬體優勢， AMD 的 Instinct MI200 加速器系列雖獲得美國橡樹嶺實驗室新一代超級電腦 Frontier 採用，但市場討論度則仍較 NVIDIA 來的少；不過 AMD 也正努力的持續自軟體與硬體兩方面強化，根據 MosaicML 公布的部落格文章， AMD 的 Instinct 250 在 PyTorch 2.0 與 ROCm 5.4 的雙重加持下，已有著趨近 NVDIA A100 的效能，同時不須針對 AMD Instinct 修改代碼即可進行大型語言模型 LLM 訓練。 MosaicML 的官方部落客表示其軟體 MosaicML 可為 NV

Chevelle.fu

照片中提到了ANNOUNCING、NVIDIA AI WORKBENCH、Simplifies NVIDIA AI Infra Setup and，包含了天空、多媒體、介紹、文本、顯示裝置

SIGGRAPH 2023 ： NVIDIA AI Workbench 加速全球企業使用自定義生成式 AI ，簡化模型調整自部署程序

NVIDIA 在 SIGGRAPH 宣布整合易用的工作空間 NVIDIA AI Workbench ，使開發者利用 NVIDIA AI Workbench 在桌上型電腦或工作站環境快速建立、測試與自訂預訓練生成式 AI 大型語言模型，並擴大到資料中心、公有雲或 NVIDIA DGX Cloud ，協助企業加速採用符合需求的自訂生成式 AI 。 NVIDIA AI Workbench 旨在簡化企業使用 AI 項目的各項作業，開發者可在本地系統執行減化界面，就能使用自定義資料自 Hugging Face 、 GitHub 與 NVIDIAS NGC 等熱門資源庫自定義模型，後續於多個平台分享。現

Chevelle.fu

照片中包含了光、產品、產品設計、光、設計

NVIDIA 公布開源的 NeMo Guardrails 軟體，協助大型語言模型準確、適當的同時也能切題與安全

隨著 ChatGPT 為首引領生成式 AI 的浪潮，原本艱深的生成式 AI 與自然語言互動聊天成為一般人得以一親芳澤的新生活技術，不過與此同時也有許多人擔憂生成式 AI 蓬勃發展的背後缺乏一道最後的道德防線；作為在這波生成式 AI 的硬體技術領導廠商的 NVIDIA 宣布推出開源軟體 NeMo Guardrails ，旨在協助企業使用基於大型語言模型( LLM )為基礎的生成式 AI 時，能夠作為一道護欄，確保應用能符合其安全要求。 NeMo Guardrails 將透過 GitHub 以開源形式提供，或企業亦可透過 NVIDIA AI Enterprise 取得完整的企業支援服務。 NVID

Chevelle.fu

Meta 攜手微軟宣布新一代大型語言模型 Llama 2 ，免費開放研究與商業使用、與高通合作移植到 Snapdragon 平台裝置

由於生成式 AI 的盛行與硬體技術不斷突破，作為對話應用與生成式 AI 基礎的大型語言模型的開發與研究進展也更為加速； Meta 宣布全新一代的開源大型語言模型 Llama 2 ，強調將免費提供研究與商業使用，同時強化與微軟 Microsoft 的長期合作關係，微軟將成為 Llama 2 商用化的特選夥伴，另外亦宣布攜手高通，將把 Llama 2 移植到基於 Snapdragon 技術的平台強化邊際 AI 技術； Meta 允諾負責人的建構 Llama 2 ，同時也將協助開發者落實相同承諾。 Llama 2 將自即日起於 Azure AI 模型目錄上線，開發者可透過 Micrososft Az

Chevelle.fu

友站推薦

DarkBERT：誕生自暗網的 AI，卻要為資安盡一份力

INSIDE - Chris

DarkBERT：誕生自暗網的 AI，卻要為資安盡一份力

你知道 ChatGPT 怎麼運作嗎？OpenAI 用GPT-4 來理解 GPT-2 是什麼

INSIDE - INSIDE 硬塞的網路趨勢觀察

你知道 ChatGPT 怎麼運作嗎？OpenAI 用GPT-4 來理解 GPT-2 是什麼

前員工爆：蘋果對 LLM 無感，在 AI 已嚴重落後

INSIDE - Mashdigi

前員工爆：蘋果對 LLM 無感，在 AI 已嚴重落後

Google、微軟競爭再起！Google Cloud 推新平台，搶佔資安領域生成式 AI 應用

INSIDE - INSIDE 硬塞的網路趨勢觀察

Google、微軟競爭再起！Google Cloud 推新平台，搶佔資安領域生成式 AI 應用

相關文章