產業消息 NVIDIA GTC nvlink 推論加速器 NVLink-C2C Grace Hopper SuperChip 語言模型 NVIDIA L40 ChatGPT NVIDIA L4 GTC 2023 ： NVIDIA 公布著重低能耗的 NVIDIA L4 Tensor Core GPU 以及針對大型語言模型佈署的 NVIDIA H100 NVL 加速模組，迎接 AI 的「 iPhone 時代」 NVIDIA 宣布擴大採用新世代架構的推論產品新陣容，在 GTC 2023 公布針對基礎設施與低功耗的 NVIDIA L4 GPU ，以及針對大型語言模型佈署、採用高相容性 PCIe 介面的 NVIDIA H100 NVL 模組。在這兩項推論新品加入陣容後，與先前已經公布的 NVIDIA L40 GPU 、 Grace Hopper Superchip 構成基於新世代架構的推論產品線。 NVIDIA 希冀藉由更廣泛且彈性的加速運算系統，迎接 AI 的「 iPhone 時代」(註：指 AI 將迎來如 iPhone 帶動智慧手機一樣的時期)。 NVIDIA Grace Hopper Superch Chevelle.fu 2 年前
專家觀點 CPU gpu soc apu Infinity Fabric 封裝技術 XPU NVLink-C2C Grace Hopper SuperChip Falcon Shores Superchip Instinct MI300 APU 透過封裝結合 CPU 與 GPU 的異構 SoC 為何成為 AMD 、 Intel 與 NVIDIA 競相推出的資料中心與 HPC 關鍵技術 在傳統的資料中心與加速運算架構當中，主要是透過 CPU 結合 PCIe 等通用插槽連接到各式加速器，然而近一兩年以 NVIDIA 為首率先公布 Grace Hopper Superchip ， AMD 也公布了 Instinct MI300 APU ， Intel 則公布代號 Falcon Shores 的 XPU ，三款處理器的本質都是借助封裝技術將 CPU 與 GPU 晶粒整合在單一晶片上，為何運算業界會有這樣的變化，筆者以對市場需求觀察與效益進行粗略的說明。 ▲第 4 代 Xeon Scalable 藉由加入更多加速器減少對外部加速器的依賴，但仍需與 GPU 加速器結合才能滿足當前業界加 Chevelle.fu 2 年前
產業消息 NVIDIA GTC nvidia Arm Neoverse Armv9 NVLink-C2C Grace CPU Grace CPU SuperChip Grace Hopper SuperChip 小晶片架構 GTC 2022 ： NVIDIA Grace CPU 再揭更多消息， 2023 年第一季推出並提供 Grace CPU Superchip 與 Grace Hopper Superchip NVIDIA 在先前宣布首款基於 Arm Neoverse 架構的自主研發超算等級 CPU 產品 Grace ，此次 GTC 大會也公布 Grace CPU 即將在 2023 年第一季推出的消息，同時還公布屆時 Grace CPU 的兩種小晶片架構延伸產品 Grace CPU Superchip 與 Grace Hopper Superchip 。 在介紹 Grace CPU Superchip 與 Grace Hopper Superchip ，就得先提到作為 NVIDIA 小晶片架構策略的橋樑技術 NVLink-C2C ， C2C 指的是晶粒對晶粒層級連接，而 NVLink-C2C 即是將 Chevelle.fu 3 年前
產業消息 NVIDIA GTC nvidia gpu 資料中心 nvlink Hopper NVLink-C2C Grace CPU GTC 2022 ： NVIDIA 宣布晶粒互連 NVLink-C2C 技術將開放，客戶可依需求將 NVDIA GPU 、 CPU 、 DPU 、 NIC 與 SoC 整合為客製化資料中心晶片 NVIDIA 在 GTC 2022 重磅宣布將 NVLink 技術延伸到晶片對晶片層級推出晶粒到晶粒的 NVLink-C2C 技術，除了將用於結合兩顆 Grace CPU 的新一代超級處理器晶片 Grace CPU SupeChip 與結合 Grace CPU 與 Hopper GPU 的 Grace Hopper SuperChip 外，也開放給客戶進行資料中心客製化晶片，客戶可依照資料中心特性自 NVIDIA 提供的 GPU 、 CPU 、 DPU 、 NIC 與 SoC 等產品進行組合，透過 NVLink-C2C 技術以晶粒對晶粒層級連接方式，打造比晶片級連接更具效率的系統級整合晶片。 Chevelle.fu 3 年前
