NVIDIA於2025年的GTC大會宣布為GB300平台導入基於LPDDR記憶體的SOCAMM模組,使得採用Arm Neoverse架構設計的Grace CPU獲得更彈性的記憶體擴充與維護能力,同時NVIDIA亦於桌上型超級電腦系統DGX Station同樣採用SOCAMM模組,也使得這項由NVIDIA與美光合作制定的新型記憶體模組有不錯的起頭;現在韓國媒體etnews指稱NVIDIA計畫在2025年量產約60萬至80萬組SOCAMM模組,滿足旗下AI產品使用需求。

目前在消費級產品使用的LPDDR模組另有LPCAMM,不過由於LPCAMM考慮的是筆電內部空間的使用,採用接近方正的設計,與偏向狹長型的SOCAMM不同;SOCAMM可說是為了考慮伺服器空間與散熱結構最佳化的設計,利用長條型以及三個螺絲鎖點的固定方式使記憶體能夠緊密地排列在兩側,並且能夠在上方覆蓋散熱器維持性能,此外SOCAMM設計還能帶來高達150GB/s至250GB/s之間的頻寬。

隨著NVIDIA預計在2026年公布代號Vera的下一代Arm架構CPU,有了GB300系列鋪路,NVIDIA應該也會進一步擴大對SOCAMM模組的需求,也不排除未來同樣基於Arm CPU的DGX Spark也可能導入SOCAMM模組;據稱除了與NVIDIA共同制定SOCAMM規範的美光以外,三星與SK Hynix也同樣希望爭取成為供應鏈合作夥伴;然而產業認為SOCAMM的市場需求可能要至第二世代SOCAMM2才會有更大規模的需要。

不過etnews指稱SOCAMM被產業視為HBM後繼產品的說法是有些令人存疑的,從NVIDIA當前的設計架構,LPDDR主要是作為CPU區塊使用的記憶體,雖然在統一記憶體架構特性能與GPU區塊的HBM記憶體協作,然而兩者先天的性能、頻寬仍有一定的差距,理論上依據NVIDIA先前的技術解說,熱資料應該還是會優先分配到HBM而非LPDDR,筆者認為SOCAMM最終仍是在系統架構中作為以更具成本效益的方式提高總記憶體容量以及平衡系統的發熱即能耗,HBM記憶體短時間仍難以被取代。

不過隨著Arm架構伺服器級CPU在NVIDIA與多家雲端巨頭推波助瀾下,考慮到相較傳統將LPDDR記憶體顆粒焊死在PCB的方式,SOCAMM設計有助於使僅支援LPDDR的特定伺服器處理器具備傳統x86 CPU記憶體容易擴充及維護的彈性,加上相對LPCAMM設計又更有效應用伺服器內部空間,最終在伺服器領域的LPDDR記憶體應該也會逐步走向模組化之路。