預填充吞吐超 330 Token/s:高通攜手階躍等為第六代驍龍 8 超級至尊版端側適配 300 億參數 AI 模型

2026年9月22日 04:40
預填充吞吐超 330 Token/s:高通攜手階躍等為第六代驍龍 8 超級至尊版端側適配 300 億參數 AI 模型
站內 AI 整理稿

作者:故淵 責編:故淵 評論: 9 月 23 日消息,夏威夷時間 9 月 22 日 9 點(北京時間 9 月 23 日 3 點)召開的 2026 驍龍峰會上,高通宣佈攜手階躍、無量火及江波龍,基於第六代驍龍 8 超級至尊版移動平臺,端側適配與推理優化階躍 StepEdge-Omni 30B-MoE 模型,並現場演示相關智能體助手。該模型擁有 300 億參數,依託混合專家架構,僅根據任務需要激活部分專家模塊,以降低計算量和內存帶寬需求。合作方通過推理引擎、異構調度及存儲方案優化,讓模型運行內存需求較行業常規方案降低超過 50%,並支持在智能手機上穩定運行。

高通表示,該方案無需調用雲端服務,可以在本地完成郵件理解、行程規劃、日曆同步、航班及酒店推薦、行程分享和郵件草擬等任務。測試數據顯示,模型預填充吞吐性能超過每秒 330 個 Token,解碼吞吐性能超過每秒 28 個 Token。注:“模型預填充吞吐性能是指大語言模型在推理的預填充(prefill)階段,每秒能夠處理的輸入詞元(token)數量,是衡量系統處理長提示詞(prompt)和批量請求能力的關鍵指標。業內人士認為,大參數 MoE 模型在手機端的部署,有助於推動低時延和隱私保護型智能體應用發展。不過,實際規模化應用仍取決於終端成本、功耗、模型可靠性及用戶接受度等因素。

2026 驍龍峰會專題 投訴水文 我要糾錯 下載APP,簽到賺金幣兌豪禮 相關文章關鍵詞:2026 驍龍峰會,驍龍峰會,高通,階躍vivo 宣佈 iQOO 16、iQOO Pad Ultra 首批搭載高通第六代驍龍 8 超級至尊版處理器小米曾學忠在 2026 高通驍龍峰會首秀小米 18 Pro 真機小米 18 Pro 系列手機官宣全球首發高通第六代驍龍 8 超級至尊版和第六代驍龍 8 至尊版處理器全球最快移動 CPU:高通發佈第六代驍龍 8 超級至尊版芯片,CPU 行業首超 5GHz、GPU 性能提升 44%高通驍龍芯片將整合 HBC 架構:手機本地運行 AI 更快、更省電阿里千問平板 Qwen Book 現身 2026 驍龍峰會,定位原生 AI 智能體電腦

Related

相關文章

何夕2077生成式AI

螞蟻百靈推出原生多模態模型

螞蟻百靈發佈 Ling 3.2 Flash:三項核心基準超越 Claude Opus 5,前兩週限時免費開放AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Nov 6, 20266811月6日消息,螞蟻百靈官方團隊今日正式宣佈推出全新的原生多模態大模型——Ling-3.

4 小時前
何夕2077生成式AI

圖龍鋒報告漏洞復現率99.4%

99.4%登頂全球第一!這個中國AI師承世界冠軍 一水 2026-11-06 13:01:47 來源:量子位 一舉刷新「AI安全世界盃」CyberGym世界紀錄 一水 發自 凹非寺 量子位 | 公眾號QbitAI 99.4%,全球第一。 好傢伙,硅谷那幾家天天站在聚光燈下大談AI安全,誰承想呢? 如今刷新AI安全世界紀錄的,是一箇中國AI系統。

4 小時前
何夕2077生成式AI

可複用原語提高智能體任務完成數

Computer Science > Computation and Language arXiv:2611.07461 (cs) [Submitted on 5 Nov 2026] Title:The Last Mile to the Real World: Agent-Native Primitives as Reusable Building Blocks for Solving Real-World Tasks Authors。

4 小時前
智東西生成式AI

前OpenAI CTO推新模型,讓用戶自己訓AI!創企估值被曝衝刺2600億

作者 | 孫小雯 編輯 | 程茜 11月6日消息,今日,前OpenAI首席技術官米拉·穆拉蒂創辦的美國AI創企Thinking Machines Lab發佈通用多模態模型Inkling 2 Small,並將於下週開放權重。該模型重點改善定製訓練表現,支持開發者用自己的數據進一步訓練,也支持自行調用工具對其他模型進行微調。 ▲Thinking Machines官方公告(圖源:X) 該模型在第三方評測機構Artificial Analysis(AA)的智能指數中獲得31分,前代Inkling-Small為13分。

16 小時前