DeepSeek官方開源昇騰基礎組件,與昇騰共建高效易用的AI芯片軟件生態

2026年9月30日 10:59
DeepSeek官方開源昇騰基礎組件,與昇騰共建高效易用的AI芯片軟件生態
站內 AI 整理稿

9月30日,DeepSeek 正式開源面向昇騰算力平臺的基礎設施組件,涵蓋 TileLang 高級語言編譯工具、高性能計算庫與分佈式通信庫,與此前面向GPU平臺開源的組件一一對應。Deepseek團隊面向華為昇騰平臺開源發佈基礎設施加速庫,對中國 AI 軟件生態具有里程碑意義,為算力平臺提供了新的選擇。本次開源,DeepSeek發佈了DeepGEMM、FlashMLA、TileKernel、DeepSelect等高性能昇騰算子庫組件和DeepEP分佈式通信庫。昇騰提供了穩定、開放的Ascend C API接口,使能用戶對訪存路徑及計算流水線進行深度調優,完成高性能算子開發。

同時依託開放 Ascend C 編程接口與 PTO ISA 底層指令體系,支持了DeepSeek的TileLang編程開源工作。昇騰生態兼顧不同開發範式,既支持資深開發者進行精細的手工調優,也支持 TileLang 等高級語言的編譯對接。華為向DeepSeek團隊提供了聯合定義的昇騰超節點SuperPoD Flex 和UBL128組網方案,可實現128卡3.2Tbps單層交換Scale-up網絡和256K卡兩層交換Scale-out網絡,可以支持超低時延推理和前沿基座模型的大規模訓練的需求。

基於全互聯的UBL128超節點,昇騰提供了 ASC-COMM 高性能自定義通信編程庫,支撐用戶通信算子與通算融合算子高性能編程。Deepseek團隊開發了高性能 DeepEP 通信庫,涵蓋EP / CP / PP / FSDP 等模式下的通信算子,為更大模型向更大集群擴展提供支持,互聯帶寬實測達到 Dispatch 375 GB/s、Combine 347 GB/s 的通信性能,接近硬件上限。

為支持廣泛的開發者基於昇騰 950 及超節點集群部署 DeepSeek模型,華為將此次聯合創新的成果在CANN社區開源,包括大EP低延時推理部署、單卡/單機部署、大規模訓練、超長文本KVcache池化與 Agentic RL。其中面向大規模推理場景,基於EP32部署策略,offline推理模式下DeepSeek-V4.1-Flash不帶框架純模型性能可實現TPOT=5ms,每卡輸出吞吐2469 tokens/s;TPOT=10ms,每卡輸出吞吐5102 tokens/s。(注:Benchmark數據均基於Offline推理模式採集,不包含Serving調度和框架負載均衡影響。

ContextLength = 128K,Dspark 投機接受率 0.85,profiling鏈接詳見附錄:DeepSeek-V4.1-Flash超節點部署推理優化實踐) 基承其本,算展其用。華為昇騰平臺將與Deepseek等前沿模型團隊,持續深耕芯模協同,聯合創新。以AI算力底座承載模型能力,深度適配,雙向奔赴,打通推理到訓練的全鏈路,攜手打造開放、高效、易用的AI軟件生態。附開源參考實踐和技術報告鏈接: 通信編程體系:基於UB memory和URMA通信編程接口的通算並行算子開發實踐: https://gitcode.

com/cann/cann-recipes-infer/tree/master/docs/models/deepseekv41/deepseekv4.1asccommtechreport.md 基於Agent-Friendly算子編程範式CANNBot-DSL的高性能融合算子開發實踐: https://gitcode.com/cann/cann-recipes-infer/blob/master/docs/models/deepseekv41/deepseekv4.1cannbotdsloperatorguide.md DeepSeek-V4.

1-Flash超節點部署推理優化實踐: https://gitcode.com/cann/cann-recipes-infer/tree/master/docs/models/deepseekv41/deepseekv4.1flashcanntechreport.md DeepSeek-V4.1-Flash單機部署低時延推理優化實踐: https://gitcode.com/cann/cann-recipes-infer/tree/master/docs/models/deepseekv41/deepseekv4.1lowlatencytpguide.md DeepSeek-V4.

1-Flash 單卡部署推理優化實踐:https://gitcode.com/cann/cann-recipes-infer/blob/master/docs/models/deepseekv41/dsv41-flash-950-single-card.md 基於PyTorch原生框架的DeepSeek-V4.1-Flash模型預訓練實踐: https://gitcode.com/cann/cann-recipes-train/blob/master/docs/llmpretrain/ascend950superpodmoepretrainsystemreference.

md DeepSeek-V4.1-Flash模型低精度量化訓練實踐:https://gitcode.com/cann/cann-recipes-train/tree/master/docs/llmpretrain/ascend950/lowprecisiontraining.md DeepSeek-V4 DSpark草稿模型昇騰訓練實踐:https://gitcode.com/cann/cann-recipes-train/tree/master/llmsft/DeepSpec DeepSeek-V4 單機LoRA 微調實踐:https://gitcode.

com/cann/torchtitan-npu/blob/master/docs/featureguides/deepseekv4lora.md 基於鯤鵬CPU、昇騰950、靈衢協同的Agentic RL訓練實踐:https://gitcode.com/cann/cann-recipes-train/tree/master/docs/llmrl/kunpengascendagenticrl_infrastructure.md 鯤鵬CPU對AgentENV的適配與優化實踐: https://gitcode.

com/KunpengSDK/agentENV/blob/main/agentenv-kunpeng-optimization-practice.md 推理模型優化Agent 部署調優實踐 https://gitcode.com/cann/cann-recipes-infer/blob/master/docs/agent/DeepSeekV4.1-Flash-Model-Agent.md AMCT 低精度量化Agent量化實踐: https://gitcode.com/cann/amct/tree/master/examples/models/deepseekv4.1/DeepSeekV4.

1-Flash-Quantization-Agent.md TileLang 算子Agent開發和優化實踐: https://gitcode.com/cann/cannbot-skills/tree/master/plugins-official/tilelang-op-orchestrator

Related

相關文章

IT之家模型更新

DeepSeek 開源面向華為昇騰算力平臺的基礎設施組件

作者:清源 責編:清源 評論: 感謝網友 軟媒用戶1392612、pzvincent、DengGordon、雲逸天清、我的夢想、章魚小丸子、Agent、尾巴不長、九指神丐、看資訊的小碳、ZEROA_ONE、xxy171070、superstarcar、有鯽雪狐、暖洋洋 的線索投遞!

剛剛
鈦媒體模型更新

推演大廠AI辦公之戰

AGI-Signal2026.09.30 10:21 · 來自北京全文5600字00:00 / 16:10爭的就是上下文。當AI開始替人操作軟件、完成任務,辦公則是其中離企業付費最近的場景。這一輪圍繞AI辦公的角力裡,各家真正壓上的籌碼,是過去十年沉澱的企業數據。

剛剛
雷峰網模型更新

豆包支持出行服務:一句話訂機票、火車票,打車導航全覆蓋

本文作者: Nemo 2026-09-30 11:11 導語:此外,豆包還上線了“出行用豆包”專屬入口,精選地圖導航、交通出行、酒店住宿、吃喝玩樂四大場景的高頻推薦,為用戶提供更多出行、旅行建議。國慶黃金週前夕,豆包宣佈支持多種出行服務,用戶現已可通過豆包一站式完成機票預訂、火車票購買、打車及路線導航等多種出行需求,覆蓋從長途交通到市內出行的全場景。

1 小時前
雷峰網模型更新

首批搭載第六代驍龍 8 超級至尊版,iQOO16 今日發佈並開售

2026 年 9 月 29 日,深圳 —— iQOO16 正式發佈。新機首批搭載第六代驍龍 8 超級至尊版,全球首發由 iQOO 和三星顯示聯合研發的 2K 165Hz 三星珠峰屏,並基於 iQOO 搭建的 “3+2遊戲技術版圖”,在視效、操控、直播和跨端遊戲體驗上全面升級,成為性能、屏幕、遊戲體驗、系統和綜合配置全面超 Pro Max 的性能旗艦。

2 小時前

騰訊入局Personal Agent賽道:代號"Handy Bot",已在微信低調內測

目前該產品已在微信端低調上線服務號,簡介寫著"Your Personal AI Agent"。Handy Bot的定位與傳統聊天機器人截然不同。傳統Chatbot是一問一答、會話結束即終止任務,而Personal Agent追求的是"常駐後臺"——用戶只需給出一個宏觀目標,AI就能在雲端持續推進任務,不再依賴人類逐條下發指令。

3 小時前6200