產業消息 三星 AMD gpu AI 加速運算 HBM-PIM AMD Instinct MI 100 三星將 AMD Instinct MI 100 加速 GPU 改用 PIM 技術記憶體建構 96 個 GPU 的加速系統，較傳統記憶體提升 2.5 倍效能與減少 2.67 倍能耗 三星電子宣布以高達 96 個 AMD Instinct MI 100 加速 GPU 與 PIM 記憶體晶片結合，建構一套超大型加速運算系統，也是全球首個結合 PIM 晶片與 GPU 的加速架構，在進行 T5 語言模型訓練時相較搭配原本不具備 PIM 技術的 HBM 記憶體，整套系統能夠提升 2.5 倍效能與減少 2.67 倍能耗，將有助大幅提升 AI 運算性能。 ▲ PIM 記憶體技術是在記憶體內整合 AI 運算架構做為將資料傳輸最佳化的手段，能減少不必要的資料傳輸與移動行為 PIM 記憶體全稱是 processing-in-memory ，是一種在記憶體內整合 AI 運算的記憶體晶片，強調可 Chevelle.fu 2 年前
產業消息 AMD nvidia hpc AI 三星半導體 HBM-PIM 三星半導體新一代 HBM-PIM 記憶體整合 AI 功能，將可減少不必要的數據傳輸行為 雖然 AMD 曾嘗試在消費級 VEGA GPU 產品導入 HBM 記憶體，不過畢竟受限高成本以及在消費應用意義不大，最終進入 RDNA 世代後又改為主流的 GDDR 記憶體，但當前 HBM 記憶體在運算級領域仍是相當熱門的，例如 NVIDIA 的 A100 GPU 或是富士通的 A64FX 皆搭配 HBM2 記憶體，而三星半導體宣布在新一代的 HBM-PIM 記憶體導入 AI 運算，強化數據中心、 HPC 的大規模數據處理。 ▲ HBM-PIM 的 AI 並非用於系統 AI 運算，而是做為減少數據在記憶體之間不必要的存取與移動行為 三星強調其 HBM-PIM 是業界首創針對 AI 工作負載開發 Chevelle.fu 4 年前
