6月18日，多樣性算力產業峰會2024在北京圓滿舉行，江波龍企業級存儲事業部市場總監曹潯峰受邀出席本次峰會并發表了《大模型時代AI存儲方案挑戰與創新》主題演講，深入探討了多樣性算力產業的發展趨勢和創新應用。

曹潯峰在演講中指出，隨著AI中大語言模型人工智能參數量呈指數級增長，AI應用的復雜度也日益增加，這對AI訓練過程中所需的緩存存儲容量和性能提出了更高的要求。然而，盡管AI應用發展迅速，但相關的緩存硬件技術和產品的發展速度并未與之同步，這導致了AI模型訓練過程中的性能瓶頸問題。曹潯峰深入分析了這一問題，并針對數據緩存、傳輸和存儲的瓶頸提出了具體的解決方案。

在AI應用的實踐中，原始數據通常需要經歷精細的清洗和預處理流程，以轉化為符合AI訓練要求的高質量數據集。隨后，這些數據集通過網絡傳輸至AI服務器的本地SSD存儲，再通過PCIe通道upload至GPU HBM緩存中進行訓練。訓練過程產生的中間數據量是訓練初始數據的4~7倍。依靠目前GPU配備的數十GB HBM容量來存儲這些數據是遠遠不夠的，因此需要利用系統內存RDIMM或性能和延時接近的高速存儲器設備作為補充。

曹潯峰指出，隨著AI訓練模型參數量增長至千億或萬億級別，HBM緩存和RDIMM容量不足將會成為訓練效率的瓶頸。在3D-stacked DRAM內存成本高企的情況下，采用高性能、大容量的CXL存儲器或是8x GPU卡AI服務器理想的緩存優化解決方案。同時，江波龍正在預研能夠支持AIC和E3.S的JBOM系統，結合即將到來支持CXL2.0的服務器系統，將為萬卡AI訓練集群提供更具成本效益的內存池化共享硬件解決方案。

曹潯峰還分享了對AI應用數據存儲優化的思考。他提到，AI訓練應用對數據存儲的訪問主要為順序讀寫操作，而QLC在順序讀寫性能上與TLC接近，且成本更低。隨著PCIe Gen5帶寬的提升，QLC技術能夠滿足訓練過程中Checkpoint數據存儲高帶寬高并發的存儲需求，因此，QLC SSD有望替代當前主流的TLC SSD，成為大語言模型AI訓練應用的更優選擇。

曹潯峰重點介紹了江波龍的企業級存儲發展歷程。經過不斷地技術創新，江波龍已成功構建了完整的企業級存儲布局，涵蓋了NAND Flash+DRAM多顆粒類型產品，至今已經成功推出了包括企業級PCIe 4.0 NVMe SSD、企業級SATA SSD、企業級RDIMM、CXL 2.0內存拓展模塊在內的多款高性能產品。

其中，江波龍今年推出的FORESEE CXL 2.0內存拓展模塊，則是面向AI應用的存儲優化的成果之一。一方面，該產品支持內存池化共享，能夠基于16Gb SDP顆粒實現192GB大容量，相比業界同期水平實現成本大幅度下降的優勢。另一方面，產品基于 DDR5 DRAM開發，支持PCIe 5.0×8接口，理論帶寬高達32GB/s，可與支持CXL規范及E3.S接口的背板和服務器主板實現無縫連接，并減少高昂的內存成本和閑置的內存資源，大幅提高內存利用率，從而有效拓展AI服務器的內存容量并提升帶寬性能，為應用場景提供更具彈性和擴展性的存儲解決方案。

在演講的最后，曹潯峰提到了公司面向行業領先客戶正在積極推進從傳統產品銷售模式向TCM（Technology Contract Manufacture, 技術合約制造）合作模式的轉型升級。這一轉型旨在簡化存儲晶圓廠與終端客戶之間的溝通流程，解決因中間環節繁雜而導致的“斷層”問題，并有效應對下游應用市場對存儲產品的多樣化、定制化和創新化需求。通過TCM合作模式，江波龍將基于上游存儲晶圓廠或下游Tier1客戶的產品需求，高效完成存儲產品的一站式交付，從而提高存儲產業鏈從原廠、產品開發、封裝測試、產品制造到行業應用的效率和效益。

多樣性算力產業正迎來高速發展的黃金時期，創新技術層出不窮，新業態和新模式競相迸發。在這一進程中，存儲技術扮演著至關重要的角色。江波龍將持續為計算產業發展貢獻新的動力，開創更多的合作機會，共同塑造計算產業的新未來。