產業消息 三星 AMD gpu AI 加速運算 HBM-PIM AMD Instinct MI 100 三星將 AMD Instinct MI 100 加速 GPU 改用 PIM 技術記憶體建構 96 個 GPU 的加速系統，較傳統記憶體提升 2.5 倍效能與減少 2.67 倍能耗 三星電子宣布以高達 96 個 AMD Instinct MI 100 加速 GPU 與 PIM 記憶體晶片結合，建構一套超大型加速運算系統，也是全球首個結合 PIM 晶片與 GPU 的加速架構，在進行 T5 語言模型訓練時相較搭配原本不具備 PIM 技術的 HBM 記憶體，整套系統能夠提升 2.5 倍效能與減少 2.67 倍能耗，將有助大幅提升 AI 運算性能。 ▲ PIM 記憶體技術是在記憶體內整合 AI 運算架構做為將資料傳輸最佳化的手段，能減少不必要的資料傳輸與移動行為 PIM 記憶體全稱是 processing-in-memory ，是一種在記憶體內整合 AI 運算的記憶體晶片，強調可 Chevelle.fu 2 年前
