GMIF 2026：日均140萬億Token調用，正在改變SSD的能力與分工

作者 | 陳悅琳編輯 | 包永剛 HBM熱潮之外，其他存儲形式也站在風口。這是今年第五屆GMIF2026全球存儲器行業創新峰會釋放的第一個明顯信號。以全球雲數據中心資本支出為例，摩根士丹利執行董事、大中華區半導體分析師顏志天指出，在未計入HBM的情況下，2026年存儲佔比接近五成，2027年預計進一步升至53%。熱錢湧向存儲，背後是前所未有的推理需求增加。截至今年3月，中國日均Token調用量已突破140萬億。

對此，三星電子副總裁、Memory事業部首席技術官Kevin Yoon做了一個簡單換算：中國每天消耗的Token，是中國國家圖書館全部藏書對應Token量的20倍以上，也接近人類歷史上所有出版圖書總量的6倍。面對140萬億量級的推理負載，存儲要應對的不只是數據量的增長，還有不同數據在訪問頻率和生命週期上的巨大差異。這意味著不同存儲介質需要為此補齊各自在容量、帶寬、時延和耐久性上的短板。除此之外，Solidigm亞太區銷售副總裁倪錦峰還在現場提到，以前存儲成本較低時，行業傾向於儘量簡化存儲層級；隨著AI數據需求快速增長和成本壓力加劇，原有的“存儲金字塔”也在被進一步細分。

規模化推理下，三重壓力「夾擊」存儲當AI的發展階段從訓練端的模型競賽進一步走向推理側的規模化應用後，存儲面對的壓力也更為具體。倪錦峰將其概括為三個維度。最直觀的是數據豐富度。星河智聯現場展示的車載Agent，可以用來說明AI系統如何同時處理和保存多模態數據：除了理解語音、視覺、車輛信號等不同形式的信息之外，Agent還要結合對話歷史、長期記憶、用戶畫像以及實時變化的車身狀態完成判斷。這意味著數據豐富度不只體現為數據形式和數量的增加。不同數據的來源、形態和更新頻率各不相同，直接導向第二層壓力——推理複雜度。

Arm全球存儲業務負責人John Xavier Lionel對推理數據的拆解恰好解釋這一維度：模型變大，會帶來更多權重和運行時狀態；上下文越長，需要為後續Token生成保留的KV Cache也在增加；同時服務的用戶越多，系統還要為每個請求分別保留KV Cache；進入逐Token生成的Decode階段，模型權重和KV Cache還會被反覆訪問。而當推理模式從一次性問答轉向持續運行的Agent時，單個任務持續時間被拉長，隨著任務規模擴大，需要長期維護的上下文和運行狀態也不斷累積，這也引出了倪錦峰所說的第三個維度“運營持久性”。

Dify聯合創始人陳璐莎判斷，未來企業運行的Agent，數量可能將從個位數上升至數百個，並且能夠24小時待命、執行長程任務和承擔高併發請求。這種持續運行，也對應不同的企業AI服務模式。例如並行科技提供的MaaS（Model as a Service，模型即服務）模式允許企業通過API持續調用不同模型並按Token付費。這意味著服務商需要持續保障模型調用的首Token時延、成功率和吞吐量，並監控調用費用； 針對企業本地Token工廠的建設規劃，相比追求峰值性能，聯想更關注算力資源的實際利用率、服務運行的穩定性，以及最終能以多低的成本持續產出Token。

當SSD、HDD和NAND開始「越界」當數據、推理和運營三種因素的變化進一步疊加，存儲容量擴張、帶寬提升、時延降低、耐久性保障等多重挑戰隨之襲來，不同存儲介質自我能力的提升變得更加緊迫。其中，變化最明顯的當數過去更多負責大容量和持久化存儲的SSD，目前多家企業已經從多個維度展開升級。不同任務正向同一款SSD提出不同的性能要求。以Agent的工作環節為例，規劃階段強調低時延、檢索階段要求高吞吐，執行階段則更指向高帶寬。對此，慧榮科技通過主機軟件和存儲軟件棧識別任務類型，再由SSD控制器按QoS（Quality of Service，服務質量）等級調整資源配置，使同一塊SSD能夠響應不同AI負載。

SSD不只是在內部做差異化分配。結合存儲與計算單元之間的距離，閃迪資深產品市場總監張丹將SSD拆成三類：直接連接GPU的SSD主要承接熱KV等高頻訪問數據，為計算持續“備料”；通過網絡連接GPU的SSD仍然服務計算，但部署規模可以更大；位於計算集群之外的存儲型SSD則更強調容量，主要承載不需要被頻繁訪問的數據。SSD向上承接更多靠近計算的數據之外，也在向存儲金字塔的下層延伸。據倪錦峰觀察，為了減少機房空間佔用和功耗開銷，北美大型互聯網公司已經開始用大容量QLC SSD替代部分HDD。當然，這並不意味著HDD的影響力式微。

定位於傳統HDD與企業級SSD之間，大數極限設計的PMD試圖在傳統機械硬盤基礎上通過多路並行、擴大I/O請求隊列，並結合請求聚合、預取和緩存等方式提高存儲帶寬和隨機訪問能力。工作負載的變化也影響了SSD的測試環節。傳統SSD測試常以固定4K、128K數據塊進行讀寫，而AI負載會出現突發、高併發等更加複雜的I/O行為。歐康諾因此在AI SSD測試中加入深度學習I/O負載，以及KV Cache、斷點恢復等場景。更值得注意的是，構成SSD底層介質的NAND，本身也在沿著不同方向突破原有的能力邊界。一種思路是直接提高NAND器件本身的性能。

在意識到端側推理向DRAM施加的成本壓力後，三星設計的Z-NAND，其核心Die基於SLC（Single-Level Cell，單層式存儲），並集成TSV（Through-Silicon Via，硅通孔）等技術提高讀取性能。在Kevin展示的架構中，操作系統和KV Cache仍留在DRAM，大容量、讀取密集的模型權重則被放入Z-NAND。另一種思路則將NAND升級成為HBF（高帶寬閃存）。據北京大學集成電路學院院長蔡一茂介紹，目前主要有兩條技術路徑：一條從NAND陣列本身入手，通過縮小陣列尺寸降低讀取時延；另一條則借鑑HBM提高並行度的思路，通過增加接口數量來提升帶寬。

他同時指出，儘管兩種方案都在試圖補足傳統NAND讀取速度和帶寬的短板，但仍需要解決如縮小陣列會犧牲部分存儲密度、NAND的讀取時延仍然偏高、有限的寫入壽命難以承受KV Cache等數據的頻繁更新等問題。更加激進的NAND變化體現在從存儲繼續向計算延伸。蔡一茂提到，當前北大和燕芯微等合作伙伴正在探索利用NAND陣列直接完成部分存內計算，減少數據在存儲和計算單元之間的往返。數據分層管理從「兜底」走向主動調度傳統存儲層級建立在速度、容量與成本的權衡之上：越靠近計算單元，速度越快、容量越小、單位成本越高；越向下則相反。這套分工能夠長期保持穩定，也與不同數據相對固定的訪問需求有關。

如今，軟硬件都在發生變化。一邊是存儲載體自身的能力邊界不斷外擴：從存儲“金字塔”層級出發，SSD同時向計算側存儲和大容量存儲側延伸，更靠近塔底部的HDD試圖向更高性能靠攏；聚焦具體存儲介質，NAND進一步向高帶寬乃至計算能力拓展。另一邊，AI帶來更多類型的數據，同一份數據的訪問頻率和生命週期也會隨著計算過程不斷變化。原本相對穩定的數據與介質對應關係由此開始鬆動。在多位與會嘉賓看來，數據跨層移動本身並不是AI時代的新現象，真正的變化在於，數據管理正從“HBM不夠給DRAM、DRAM不夠給SSD”的兜底式分層，轉化為系統設計之初的主動分層和運行過程中的動態調度。

芯展速副總裁李蓁進一步用三個關鍵詞拆解了當前AI數據供給體系：存儲決定什麼數據由什麼介質承載，連接負責數據穩定、高效地流動，解決方案則通過軟件完成調度和應用適配。而聯芸與寅譜聯合推出的AI SSD方案則將這種分工落到了推理運行過程中。針對MoE模型參數，當前需要調用的專家權重留在CPU內存和GPU顯存中，暫時不會被調用的權重則放入SSD。考慮到SSD訪問速度更慢，系統還會預測下一階段可能調用的專家，提前將相應模型和參數預取回來。針對KV Cache，高頻訪問的留在內存，低頻部分則下沉到SSD。

把範圍從單個計算節點放大到整個算力集群，傑創智能搭建的常青雲平臺還進一步大同“數據——存儲——計算”的鏈路，提前把任務所需的數據準備到相應節點，並結合任務類型、GPU代際和網絡帶寬等信息，將數據與合適的算力資源匹配起來。這也呼應了佰維存儲董事長孫成思在現場的判斷——“數據供給的效率決定算力的產出”。當AI推理走向規模化、高併發和持續運行，存儲最終要回答的，已經不只是數據放在哪裡，還有如何讓數據及時抵達算力。