三星SOCAMM2

一款基于LPDDR的新型服務器內存模組，適用于下一代AI數據中心

隨著人工智能在全球范圍內加速普及，數據中心的計算工作負載正經歷爆炸式增長。隨著大規模模型訓練向持續推理的轉變，挑戰不再僅僅局限于性能一一能效對于維持下一代人工智能基礎設施的運行也變得至關重要。這一轉變推動了對低功耗內存解決方案的需求，這些解決方案既能支持持續的人工智能工作負載，又能降低功耗。

順應這一趨勢，三星開發了SOCAMM2(小型壓縮附加內存模組) 一一一款基于LPDDR的服務器內存模組，專為AI數據中心設計，目前已向客戶提供樣品。SOCAMM2結合了LPDDR技術的優勢與模塊化、可拆卸設計，可提供更高帶寬、更佳能效和更靈活的系統集成，從而幫助AI服務器實現更高效率與可擴展性。

SOCAMM2被關注的技術優勢

基于三星最新的LPDDR5XDRAM，SOCAMM2融合了LPDDR的低功耗特性與模塊化架構的優勢，為數據中心提供了更豐富的內存選擇。

雖然基于DDR的服務器模組(如RDIMM，即寄存式雙列直插內存模組)仍是高容量通用服務器的主流方案，但SOCAMM2作為互補選擇，面向需要快速響應與高能效的下一代AI加速服務器進行了優化。相較傳統RDIMM，SOCAMM2的帶寬可提升至兩倍以上，功耗可降低55%以上，并在高強度AI工作負載下保持穩定的高吞吐量表現。

投入使用SOCAMM2

給客戶帶來的利益

SOCAMM2的架構創新使客戶能夠以更高的效率、靈活性和可靠性運行AI服務器。

其可拆卸設計簡化了系統維護和生命周期管理。與傳統的焊接式LPDDR解決方案不同，SOCAMM2無需對主板進行任何修改即可輕松升級或更換內存，從而幫助系統管理員最大限度減少停機時間，并顯著降低總體擁有成本(TCO)。

此外，SOCAMM2更高的能效表現使AI服務器部署中的散熱管理更加便捷高效，有助于數據中心維持熱穩定性并降低冷卻需求一一這對于高密度AI環境至關重要。

最后，相較于RDIMM的垂直布局，SOCAMM2采用水平布局進一步提升了系統空間利用率，使散熱器布局與氣流設計更具靈活性，從而更順暢地與CPU和加速器集成，同時保持與風冷和液冷系統的兼容性。

與NVIDIA 和 JEDEC

標準化組織緊密合作

三星正在擴大其與全球AI產業伙伴的合作，以加速基于LPDDR的服務器解決方案的普及，并應對服務器市場日益增長的低功耗內存需求。特別是，三星正與NVIDIA密切合作，通過持續的技術合作，優化SOCAMM2以適配NVIDIA加速的基礎設施，確保其能夠提供下一代推理平臺所需的高響應性與能效。

NVIDIA也強調了這種合作關系：“隨著人工智能工作負載從訓練轉向用于復雜推理和物理人工智能應用的快速推理，下一代數據中心需要兼具高性能和卓越能效的內存解決方案，”NVIDIA高性能計算和人工智能基礎設施解決方案高級總監DionHarris表示。“我們與三星的持續技術合作旨在優化SOCAMM2等內存解決方案，以提供人工智能基礎設施所必需的高響應速度與能效。”

隨著SOCAMM2作為下一代人工智能系統的低功耗、高帶寬解決方案日益普及，業界已正式開展基于LPDDR的服務器模塊標準化工作，并已進入收尾階段。三星與主要合作伙伴共同參與了這項工作，致力于制定統一的設計準則，并促進未來人工智能平臺之間的無縫集成。

通過與更廣泛的人工智能生態系統持續合作，三星正推動下一代人工智能基礎設施向低功耗、高帶寬內存轉型。SOCAMM2是業界的一個重要里程碑一一它將LPDDR技術引I入主流服務器環境，并推動向新興的超級芯片時代過渡。通過將LPDDR與模塊化架構相結合，SOCAMM2為構建更緊湊、更節能的人工智能系統提供了新的方向。

隨著人工智能工作負載的規模和復雜性不斷增長，三星將進一步推進其基于LPDDR的服務器內存產品組合，以更好地支持下一代人工智能數據中心的發展。