WAIC 2026 直擊：雲天勵飛發佈未來算力藍圖，三款芯片+超節點直指“百億Token一分錢”

### 專為推理環節量身打造 雲天勵飛揭曉三款 DeepVerse 晶片藍圖

隨著大型語言模型（LLM）從技術演示走向大規模商業部署，AI 推理場景對算力的需求正變得日益複雜且精細化。7 月 18 日，雲天勵飛在 2026 年世界人工智慧大會（WAIC）上，正式揭露了其未來兩年的 AI 推理晶片發展路線圖，計劃推出三款專用晶片，試圖從系統級效率出發，破解大規模 Token 生成成本居高不下的難題。 雲天勵飛此次發佈的路線圖核心，在於不再用單一通用晶片應對所有推理任務，而是針對大模型推理過程中的不同階段，進行晶片層級的專項優化。公司規劃的三款晶片分別為 DeepVerse100P、DeepVerse100D 與 DeepVerse100L，各自瞄準了 Prefill（預填充）、Decode（解碼）以及 Decode 階段中的 FFN（前饋神經網路）環節。 雲天勵飛指出，當前大模型推理的負載特徵正在快速分化。從一般對話、知識問答的通用 AI 助手，到需要複雜邏輯推理與程式編寫的深度應用，乃至於要求即時反應的 Agentic Coding 與多智能體協作系統，不同場景對上下文長度、推理鏈路複雜度及即時互動的要求有著天壤之別。這使得傳統以通用算力為核心的部署模式，在面對多樣化需求時，難以在吞吐量、延遲與成本之間取得最佳平衡。 ### 解耦推理階段，緩解資源競爭瓶頸

為了解決上述挑戰，雲天勵飛提出的解耦方案首先從晶片設計著手。DeepVerse100P 專門針對百萬級上下文的 Prefill 場景設計，因為在傳統的混部架構中，長上下文的 Prefill 運算會與逐 Token 生成的 Decode 環節爭搶算力與記憶體頻寬，導致資源衝突，嚴重影響 Decode 的生成吞吐量。 針對 Decode 階段，DeepVerse100D 則被打造成專用推理引擎，其核心優勢在於提供數倍於主流晶片的記憶體頻寬。此外，該晶片支援 1024 卡規模的 Scale-up 擴展與光互連系統架構。透過按需建立光路直連，並根據任務動態重構網路，有效降低傳統多跳電交換與靜態組網帶來的排隊、擁塞及轉發開銷，從而減少多節點通信延遲，確保逐 Token 生成的穩定性。 而對於 Decode 階段中計算密集的 FFN 環節，DeepVerse100L 則採用了 3D Memory 架構，相較於主流 HBM，能大幅提升記憶體頻寬。同時，配合低延遲晶片互連與快速激活資料傳輸技術，提升計算與通信的並行效率，進一步減少該環節的計算瓶頸。 ### 邁向萬卡異構集群，打造「推理工廠」

單晶片性能的提升固然重要，但在萬卡規模的集群中，系統整體效率並非簡單的線性疊加。雲天勵飛強調，當 Prefill 與 Decode、Attention 與 FFN 共用同一套通用算力資源時，資源競爭會隨著集群規模擴大而加劇，通信阻塞、資源等待與尾延遲等問題將嚴重拖累整體推理效率。 因此，雲天勵飛的藍圖不僅止於晶片本身，更在於推動三款晶片在萬卡異構集群中的分離式部署與協同運行。該公司規劃，未來將按照 Prefill、Decode 及 Decode FFN 的不同負載特徵，分別配置對應的晶片資源池，並透過高速互連形成一套協同運作的異構算力系統。這種圍繞 Token 生成全過程的系統級優化，旨在降低不同負載間的資源干擾，並根據實際需求精準配置計算、訪存與通信資源，從而極大化集群資源利用率。 這項策略的核心，是將晶片優化的範疇從單卡性能延伸至整體集群效率。雲天勵飛期望以這三款晶片為基礎，建構一套服務於大規模 Token 生成的「推理工廠」，藉由晶片、互連、軟體與系統的協同設計，逐步逼近其長期願景——將單位 Token 生成成本推向「百億 Token 一分錢」的極致性價比。 ### IFWA 軟體棧：降低國產算力遷移門檻

硬體架構的複雜化與異構化，對軟體棧提出了更嚴峻的挑戰。為了讓 DeepVerse 晶片在大規模集群中真正發揮效能，雲天勵飛正持續強化其 IFWA 軟體棧。這套軟體棧涵蓋了 AI 模型開發、程式設計及系統層級，旨在為模型適配、算子優化、編譯部署與軟硬體協同提供完整的底層支援。 在相容性方面，IFWA 圍繞 Transformer 主流架構，重點完善 PyTorch ATen 算子的適配與效能優化，並加強對 vLLM、SGLang 等主流推理框架的支援。透過相容業界通用的軟體介面，並複用成熟的開源組件，開發者可以顯著降低將模型遷移部署至 DeepVerse 平台的成本與時間。 此外，為了進一步提升開發效率，IFWA 構建了一套涵蓋模型量化、壓縮、編譯與部署的一站式自動化工具鏈。其中，特別引入了 AI Agent 參與晶片的適配與性能優化流程。此前，雲天勵飛已開源了「Houmao」多智能體異構程式設計框架，利用多個 Agent 協同完成模型開發、算子開發、性能優化與測試驗證，將部分過去依賴人工經驗的晶片軟體開發流程轉變為自動化執行，大幅縮短了新模型與新算子的適配週期。同時，雲天勵飛也將成熟的 Triton 算子能力融入自有框架，期望透過開源貢獻與社區複用，減少不同硬體平台在算子開發上的重複投入。 ### 發起「1001 計劃」，產業鏈共推成本優化

降低 Token 生成成本並非單一公司能獨力完成，而是一項涵蓋晶片架構、IP、EDA 工具、封裝測試、系統互連、軟體棧乃至最終模型與應用的系統工程。 為此，雲天勵飛在今年 5 月與超過 30 家單位共同發起了「1001 計劃」。該計劃的核心目標，是圍繞 Token 生成效率與成本，促進產業鏈上下游的深度協同。透過更緊密的合作機制，讓模型與應用的需求能更早地回饋至晶片及系統設計階段，加速成熟軟體能力的複用，並加快晶片在真實集群與場景中的驗證與應用迭代。 隨著 AI 正全面進入規模化應用時代，算力的競爭已從單純的峰值算力比拼，轉向對系統效率與單位 Token 成本的持續優化。雲天勵飛此次提出的三款專用晶片、異構集群架構以及開放軟體生態，不僅展示了其對未來推理市場的深刻洞察，也為國產 AI 算力從「可用」邁向「好用、易用、用得起」提供了極具參考價值的技術路徑。