NVIDIA 在先前宣布首款基於 Arm Neoverse 架構的自主研發超算等級 CPU 產品 Grace ,此次 GTC 大會也公布 Grace CPU 即將在 2023 年第一季推出的消息,同時還公布屆時 Grace CPU 的兩種小晶片架構延伸產品 Grace CPU Superchip 與 Grace Hopper Superchip 。
在介紹 Grace CPU Superchip 與 Grace Hopper Superchip ,就得先提到作為 NVIDIA 小晶片架構策略的橋樑技術 NVLink-C2C , C2C 指的是晶粒對晶粒層級連接,而 NVLink-C2C 即是將頻寬高達 900GB/s 等級的第 4 代 NVLink 導入晶片對晶片的相互連接,未來將廣泛應用在 NVIDIA 的 CPU 、 GPU 、 DPU 、 SoC 晶片之間的相互連接,同時 NVIDIA 將提供基於 NVLink 的半客製化晶片,使客戶能夠依據應用類型自 NVIDIA 的 CPU 、 GPU 、 DPU 、 SoC 架構選擇合適的組合,並透過 NVLink 方式構成各式的 Superchip 。
▲ NVLink-C2C 是全新的晶粒對晶粒等級的連接技術,達 900GB/s 的連接頻寬
Grace CPU Superchip 是將兩個 Grace CPU 晶粒以 NVLink-C2C 連接,達到 144 個基於 Armv9 指令級的 CPU 核心,包含 Armv9 指令集所具備的新一代安全與加密功能,同時支援新一代向量擴充指令級。Grace CPU Superchip 配有具 1TB/s 頻寬的 LPDDR5X with ECC 記憶體,與 SPECrate@2017_int_base est 基準測試預計達 740 分的性能,強調相較現行 DGX A100 所搭配的雙 x86 CPU 處理器具備 1.5 倍的功耗效能比。
放眼未來,在 NVIDIA 與 Arm 持續合作下, Grace CPU Superchip 不僅可執行 NVIDIA 包括 NVIDIA RTX 、 NVIDIA HPC 、 NVIDIA AI 、 Omniverse 等所有運算軟體堆疊,屆時搭配 NVIDIA ConnectX-7 NIC ,能夠彈性在伺服器進行配置,可作為獨立純 CPU 系統或搭配 1 、 2 、 4 或 8 個 Hopper 架構 GPU 構成加速伺服器系統。
▲ Grace Hopper 是將 Grace CPU 與 Hopper GPU 以 NVLink-C2C 連接構成高性能單晶片,並具備統一記憶體特性
至於去年發表 Grace CPU 所公布的超級晶片真面目在今日正式曝光,以 Grace Hopper Superchip 做為產品名稱,是將 Grace CPU 與 NVIDIA Hopper GPU 以 NVLink-C2C 連接,採用達 600GB 統一記憶體架構的 HBM3 記憶體,並借助 NVLil-C2C 實現晶片對晶片的 900GB/s 內部溝通頻寬,使單一晶片具備高效能運算與 AI 加速架構。