192GB SOCAMM2搭載LPDDR5X，鞏固美光在AI基礎設施高能效解決方案的領先地位

2025年10月23日，愛達荷州博伊西市——在當今時代，人工智能(AI)實現了前所未有的創新和發展，整個數據中心生態系統正在向更節能的基礎設施轉型，以支持可持續增長。隨著內存在AI系統中逐漸發揮越來越重要的作用，低功耗內存解決方案已成為這一轉型的核心。美光科技股份有限公司(納斯達克股票代碼：MU)近日宣布其192GB SOCAMM2(small outline compression attached memory modules，小型壓縮附加內存模塊)已正式送樣，以積極拓展低功耗內存在AI數據中心的廣泛應用。2025年3月，美光發布了業界首款LPDRAM SOCAMM，而新一代SOCAMM2則在此基礎上實現了功能的進一步拓展，在相同的規格尺寸中實現50%的容量提升，增加的容量可以將實時推理工作負載中首個token生成時間(TTFT)顯著縮短80%以上1。192GB SOCAMM2采用美光領先的1-gamma DRAM制程技術，能效提高20%以上2，有助于實現大型數據中心集群的電源設計優化。這一能效提升在全機架AI安裝中尤為顯著，可配置超過40TB的CPU附加低功耗DRAM主存儲3。SOCAMM2的模塊化設計提升了可維護性，并為未來的容量擴展奠定了基礎。

基于與NVIDIA的五年合作，美光率先將低功耗服務器內存引入數據中心使用。SOCAMM2為AI系統的主存儲帶來了LPDDR5X超低功耗和高帶寬的內在優勢。SOCAMM2的設計旨在滿足大規模AI平臺不斷擴展的需求，提供AI工作負載所需的高數據吞吐量，同時實現新的能效水平，并為AI訓練和推理系統設定新標準。這些優勢的結合將使SOCAMM2成為未來幾年業界領先AI平臺的關鍵內存解決方案。

美光資深副總裁暨云端內存事業部總經理Raj Narasimhan表示：“隨著AI工作負載變得更加復雜而嚴苛，數據中心服務器必須提升效率，為每瓦特的功率提供更多tokens。憑借在低功耗DRAM領域公認的領先地位，美光能確保我們的SOCAMM2模塊提供所需的數據吞吐量、能效、容量和數據中心級別的品質，這些對于驅動下一代AI數據中心服務器至關重要。”

通過專門的設計功能和增強測試，美光SOCAMM2產品從最初為手機設計的低功耗DRAM升級為數據中心級解決方案。多年來，美光在高質量數據中心DDR內存方面的豐富經驗，使SOCAMM2具備滿足數據中心高標準應用所需的質量與可靠性。

與同等能效的RDIMM相比，SOCAMM2模塊的能效提高了三分之二以上4，同時將其性能封裝到三分之一大小的模塊中5，不僅優化了數據中心占地面積，還最大限度地提高了容量和帶寬。SOCAMM的模塊化設計和創新的堆疊技術提高了可維護性，并有助于液冷服務器的設計。

美光一直是JEDEC SOCAMM2規范制定的積極參與者，并與行業合作伙伴密切合作，共同推動標準演進，加快AI數據中心的低功耗應用，以助力整個行業的能效提升。目前，SOCAMM2樣品已送樣客戶，單一模組容量高達192GB，速率達9.6 Gbps，后續量產作業將配合客戶的產品推出日程規劃。

1經美光內部測試驗證的性能提升：使用LMCache GH200 NVL2平臺(288GB HBM3E+1TB LPDDR5x)上的Llama 3 70B模型進行推斷，OSL=128。

2 與美光的上一代LPDDR5X相比。

3 內存容量基于NVL144機架系統，每個系統可為每36個CPU集成6個 192GB的SOCAMM2模組。

4 與兩個128GB、128位總線寬度的DDR5 RDIMM模組相比，基于一個128GB、128位總線寬度的SOCAMM2模組的功耗(瓦特)計算。

5 計算將SOCAMM2的面積(14 x 90mm)與標準服務器RDIMM進行對比。