9月3日至4日，2024開放數據中心大會（以下簡稱“ODCC”）在北京召開。江波龍企業級存儲事業部市場總監曹潯峰受邀出席，并發表了題為《大模型AI應用對存力挑戰與創新實踐》的精彩演講，深入剖析了當前算力產業的發展趨勢及其創新應用，并探討了在PTM（存儲產品技術制造）商業模式下如何有效滿足客戶需求的問題。

ODCC 2024

PTM商業模式

企業級存儲全棧定制

PTM商業模式

PTM商業模式的核心在于將公司的自研存儲控制芯片、自研固件和硬件以及自有的先進封測制造等技術優勢進行無縫銜接，實現更靈活、高效的全棧式定制化服務和一站式交付。

存儲全棧式定制服務就像高級西裝的量身定制，每一細節都經過一對一精心打造，確保每款產品方案“裁剪”出來都能貼合、匹配客戶的獨特需求。在提及江波龍最新提出的PTM商業模式時，曹潯峰表示，企業級存儲產品作為該模式下的重要組成部分，江波龍已經成功打造了eSSD+RDIMM的全面產品矩陣，以滿足大模型AI應用的存力需求。這包括一系列高性能的企業級PCIe 4.0 NVMe SSD、SATA SSD、DDR5/DDR4 RDIMM以及CXL 2.0內存拓展模塊等標準產品。

在技術領域，江波龍擁有自主研發NAND Flash芯片、主控芯片、固件和硬件的能力，并采用多顆粒類型產品布局，能夠根據客戶的特定技術需求提供定制化的存儲解決方案。此外，江波龍匯聚了眾多行業資深專家，積累了豐富的技術經驗，特別是在顆粒研究、測試算法和設備開發等方面，公司能夠深入分析NAND Flash和DRAM的特性，并與客戶預先確認技術需求。通過建立專業、專項的FAE+AE+R&D團隊，PTM商業模式能夠幫助企業級客戶高效實現產品創新和大幅成本優化，從而提升客戶的業務競爭力。

在制造方面，江波龍通過在中山存儲產業園、蘇州和南美洲封裝測試基地的國內、海外雙循環產業鏈布局，實現了從存儲芯片到模組產品的全鏈條覆蓋。公司不僅保證了業內領先的企業級生產產能，還實現了高效的全站點追溯能力，如同餐廳的開放式廚房，確保每道工序都可視化、透明化，讓客戶對產品品質和生產流程擁有更為清晰而直觀的了解。

以SATA SSD標準產品為例，如果客戶對其基本性能感到滿意，但需要更大容量的解決方案，并且希望在不犧牲產品特性的前提下實現成本效益，那么PTM（存儲產品技術制造）合作模式將是理想選擇。江波龍固件開發團隊能夠為客戶量身定制固件，以支持大容量規格和Wafer顆粒的導入。同時，封測制造基地也將按照具體要求進行Wafer的封裝，確保滿足工藝規格和顆粒特性指標，為客戶提供個性化且高效的存儲解決方案。

通過綜合措施，PTM商業模式實現了從技術到制造，再到產品的全方位支持，為客戶提供全棧式服務和一站式交付。

AI存力挑戰

新技術探索實踐

曹潯峰在演講中強調，隨著人工智能技術的飛速發展，AI訓練過程中對緩存存儲容量和性能的需求日益增長。他指出，盡管AI應用日益復雜，但現有緩存硬件技術和產品的發展尚未跟上這一步伐，導致AI模型訓練面臨性能瓶頸。對此，曹潯峰提出了一系列創新的解決方案，旨在突破數據緩存、傳輸和存儲的瓶頸。

在AI應用實踐中，原始數據需經過精細的清洗和預處理，轉化為高質量的數據集，進而通過網絡傳輸至AI服務器的本地SSD存儲，并最終upload至GPU HBM緩存中進行訓練。曹潯峰指出，隨著AI訓練模型參數量的增長，現有HBM緩存和系統內存RDIMM容量已難以滿足需求。他提出，采用高性能、大容量的CXL存儲器或8x GPU卡AI服務器，將是理想的緩存優化解決方案。

江波龍正積極探索支持AIC和E3.S的JBOM系統，并結合即將到來的支持CXL2.0的服務器系統，為萬卡AI訓練集群提供更具成本效益的內存池化共享硬件解決方案。

曹潯峰還分享了對AI應用數據存儲優化的深刻見解。他提到，AI訓練應用主要涉及順序讀寫操作，QLC SSD在順序讀寫性能上與TLC相近，且成本更具優勢。隨著PCIe Gen5帶寬的提升，QLC技術完全能夠滿足AI訓練過程中Checkpoint數據存儲的高帶寬高并發需求，預示著QLC SSD有望成為大語言模型AI訓練應用的更優選擇。

在演講的尾聲，曹潯峰展望了江波龍企業級存儲產品的未來發展方向，主要聚焦于擴大存儲容量、提升產品性能、引入QLC NAND Flash作為資源補充的發展趨勢，以滿足不同客戶的差異化需求，與產業鏈合作伙伴共同推動算力產業進步。

*上述產品數據均來源于江波龍內部測試

實際性能因設備差異，可能有所不同