都叫3D芯片，為什麼是三門不同的生意？

芯片一級市場近期再度升溫。上一輪國產GPU投資陸續進入兌現期後，資本開始尋找下一批可能跑出來的AI芯片公司。近存計算、存算一體、3D近存、3D TokenPU……這些名稱各異的技術路線，越來越多地被歸入同一個標籤：3D堆疊。有的3D芯片企業半年內連續完成兩輪融資，累計規模接近10億元；還有的芯片尚未量產，估值已經攀升至百億元。然而，當投資人真正開始比較這些公司時，卻發現相似的技術語言背後，隱藏著截然不同的市場、工程難題和商業驗證標準。一位參投過上市GPU企業的投資人老張指出，技術架構看起來都差不多，但誰的產品最好、誰能搞定大客戶，仍充滿未知。

經歷過上一輪芯片投資後，他所在的機構更傾向於等企業完成流片、拿出真實訂單，再決定是否下注。這輪熱潮的背後，AI芯片的瓶頸正在發生變化。Agent將一次性的模型問答拉長為持續執行的任務，存儲容量、帶寬和數據搬運效率的重要性隨之上升。讓數據離計算更近，成為這一輪芯片創業的共同故事，而3D堆疊則成為芯粒重組、存儲擴容和存算融合共同使用的技術手段。但同樣是把芯片「疊起來」，不同企業究竟在解決什麼問題？在先進製程、HBM和高端封裝受到約束的情況下，國內創業公司為何尤其熱衷於將計算與存儲垂直集成？AI進入推理「馬拉松」時代，芯片瓶頸已經從單純的峰值算力轉向數據供給效率。

過去，AI芯片競爭主要圍繞算力展開，GPU通過多級緩存、HBM和先進封裝加速數據傳輸。但在部分推理負載中，制約性能的因素已經不只是「算得夠不夠快」，數據的供給效率愈發受到重視。尤其是在Decode階段，計算單元需要頻繁讀取模型權重和KV Cache，算力與帶寬需求並不完全匹配。繼續借助通用GPU同時擴展計算和存儲能力，未必始終是成本最優的方案。設計更適配推理負載的新型芯片架構，因此開始成為資本和產業關注的方向。投資人Bob判斷，推理需求的爆發速度可能超過市場預期，未來三到五年內，AI算力芯片仍可能處於供不應求的狀態。

在這一預期下，近存計算、存算一體等圍繞數據搬運展開的新架構迅速升溫，3D堆疊則成為承載這些路線的集成手段之一。Omdia半導體分析師總監何暉指出，3D堆疊本質上是一種芯片集成形式，為了節省面積、縮短傳輸距離，把不同芯片縱向疊在一起，其中既包括邏輯與存儲，也包括邏輯與邏輯、存儲與存儲。這也意味著，同樣打著「3D堆疊」標籤的公司，堆疊對象、技術目標和最終產品可能完全不同。梳理國內外企業的公開表述後可以發現，三類方案背後對應的產業邏輯並不相同。第一類是臺積電SoIC、英特爾Foveros和AMD MI300等方案，主要通過拆分和重新組合邏輯芯粒（包括計算、I/O等），延續芯片性能擴展。

這類路線並不是重新定義計算方式，而是在先進製程微縮越來越昂貴的情況下，讓不同功能和製程的芯粒能夠繼續協同擴展。第二類方案如HBM、HBF和3D V-Cache，解決的是存儲問題：在有限的封裝面積內裝入更多數據，並提高數據抵達計算單元的速度。它們分別瞄準帶寬、容量和緩存層級，但核心仍是強化計算芯片周圍的存儲供給能力。第三類方案進一步改變計算與存儲的位置關係。紫光國芯、瑞芯微，以及多家國內3D近存芯片創業公司，嘗試將邏輯（計算）與DRAM等存儲單元垂直集成；三星HBM-PIM、思敏威和微納核芯等方案，則進一步把部分計算移動到存儲側。

與海外頭部企業利用Chiplet、HBM和先進封裝繼續擴大系統規模不同，國內新項目更集中於邏輯與存儲的垂直集成。AI芯片專家秦毅分析，真正能參與3D存儲競爭的只有三星、SK海力士、美光、長鑫存儲和長江存儲，這類技術通常掌握在少數具備存儲晶圓製造能力的企業手中。此外，Chiplet路線也依賴成熟的Die-to-Die互連、軟件和產業生態。對多數國內創業公司而言，與其正面進入由IDM、Foundry主導的競爭，不如在芯片架構和封裝層面，重新組織現有的計算與存儲資源。在先進製程、HBM和高端封裝能力受到約束的背景下，3D堆疊因此還承載了一層特殊期待：用架構和集成創新，彌補製造工藝上的差距。

何暉觀察到，受制程條件限制，相較於海外企業在3nm、2nm等先進邏輯製程上疊加先進封裝，國內企業更多從7nm等相對成熟的節點實行3D堆疊。但她同時表示，當前先進封裝還沒有統一的技術標準，只要有能力把存儲和邏輯集成起來，中間採用何種互連方案都不是重點。然而，3D堆疊本身不會自動帶來更強的芯片。不同方案最終仍要回答同一個問題：更高的帶寬和更短的數據距離，能否真正轉化為性能、成本和Token吞吐優勢。在不少3D芯片企業的敘事中，提高帶寬是核心賣點。據觀察，部分國產3D芯片受成熟製程限制，呈現出「算力相對有限、帶寬較高」的特徵，恰好對應了對內存帶寬更加敏感的Decode階段。

基於此，企業要關注的是能否在真芯片上跑通Decode，最好還能進一步完成Decode中Attention算子的驗證，最終展示足夠高的TPS。高帶寬最終必須兌現為Token吞吐。不過，這也意味著3D芯片只是打通推理鏈條的其中一環。真正的價值在於和GPU分工協作，並且降低Decode階段的成本，而不是將單點性能指標優化包裝成通用算力替代。如果說高帶寬解釋了為什麼需要3D芯片，那麼如何把內部不同單元真正堆疊在一起，則決定了這條路線能否落地。秦毅分析，相比HBM內部各層存儲Die，計算Die與存儲Die的尺寸、功耗和溫度分佈差異較大，這意味著在熱循環過程中可能產生不均勻應力、翹曲和散熱問題。

程伊也注意到散熱和良率的約束，他認為目前減少堆疊層數可能是更現實的工程選擇。某家3D芯片企業的技術高管透露，對於計算邏輯與存儲晶圓構成的異質堆疊，4至6層是現階段更現實的工程範圍。此外，芯片能夠堆疊多少層，仍需結合整個封裝系統綜合判斷。秦毅以臺積電CoWoS先進封裝為例，指出一顆計算Die搭配多少組HBM，並不是單純取決於希望獲得多少容量，需要綜合考慮Die尺寸、中介層面積、佈線、供電和整體封裝輪廓等因素。即便硬件完成堆疊和封裝，也並不意味著3D芯片已經具備商業價值。3D集成改變了計算與存儲之間的數據組織方式，軟件棧也需要重新理解新的存儲層級和數據流動方式。

判斷一家創企的軟件能力，需要考察其ISA、編程模型、編譯器、運行時、算子庫和框架適配。即使硬件提供了更高帶寬，如果軟件無法有效調度新的芯片結構，理論優勢仍可能停留在架構圖上。對當前仍處於探索階段的3D芯片公司而言，從技術路線走向真正的產品，至少要跨過三道門檻：在真芯片上證明目標負載的性能和成本優勢，在封裝製造中解決散熱、翹曲和良率問題，再通過軟件適配和客戶驗證，實現規模交付。這也意味著，資本不能只用「3D堆疊」這個標籤判斷項目。重組邏輯芯粒、擴展存儲能力與重構存算關係，面對的是不同市場，也需要不同的驗證標準。

但最終，所有路線仍要回答同一個問題：更高的帶寬、更短的數據距離和更激進的堆疊結構，能否真正轉化為Token吞吐、單位成本和客戶訂單？3D芯片疊幾層、怎麼疊沒有標準答案，但如何從架構走向產品，卻有一套相同的檢驗標準。投資人的追問還在繼續。