你的手機能跑35B大模型了！只要3GB內存，還無損
作者 | 程茜 編輯 | 李水青 10月13日報道，剛剛，面壁智能發佈新一代端側多模態大模型系列MiniCPM-V4.7，包含35B-A3B與1B兩個版本。官方稱，這款35B‑A3B模型，是首個能夠在手機端流暢運行、且能力無損的開源大模型。具體來看，35B-A3B是MiniCPM-V系列首款MoE模型，總參數350億、每次推理僅激活30億，僅約3GB內存即可運行。其在iPad Pro實測數據顯示，該模型解碼速度超15 token/s，以及在iPhone 17 Pro Max上僅使用3GB內存即可實現超13 tokens/s的解碼速度。
從的實際體驗來看，35B‑A3B版本推理速度很快，單任務耗時基本維持在秒級；在圖像識別、圖文分析這類常規任務上，識別結果準確、回答完整。但可能受在線演示平臺限制，模型的Token輸出長度存在上限，部分複雜問題無法輸出完整答案。今天起，該模型便支持瑞芯微、英偉達、英特爾和蘋果等國內外主流芯片平臺，同時支持iOS、安卓和鴻蒙系統，並提供開源端側適配代碼及主流推理框架。另一個1B版本模型主打提升端側效率，實際參數1.3B。根據面壁智能的測試結果，在指令模式下，1B版本在基礎功能方面較MiniCPM-V4.6有所提升，並且在總體得分和推理效率方面優於Qwen3.5 0.8B。
截至目前，由面壁智能聯合OpenBMB開源社區發佈的MiniCPM系列開源模型，全球累計下載量已突破6000萬次，覆蓋文本、視覺、語音全模態。開源地址：https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B 一、實測35B-A3B模型，推理速度飛快、簡單問題回答準確 通過面壁智能提供的在線演示平臺體驗了MiniCPM-V4.7 35B-A3B模型。我們上傳了一個餐廳牆上的英文菜單圖片，讓模型進行翻譯並給出具體的用餐建議。
從下方的動圖可以看出，35B-A3B模型的生成速度很快，按照圖片上的分類對菜單進行了翻譯，並按照不同的需求給出了建議，如用戶只想喝點東西、吃點輕食、有酒精需求等，可以選擇哪些食物。接著我們上傳了MiniCPM-V4.7系列模型的發佈海報，讓其分析這張海報，拆解構圖、配色、文案賣點、受眾，說說它的優點和可以優化的地方。在十餘秒時間內，模型逐條拆解分析了上述要點，並在最後生成了一個可視化的表格。我們上傳了一張高原風景圖，讓MiniCPM-V4.7 35B‑A3B分析這是什麼地貌。從結果來看，模型的輸出內容簡單直接，並給出了具體的判斷依據和準確答案。
二、性能優於同規模Qwen，支持4x/16x視覺Token壓縮 從性能來看，官方博客提到，MiniCPM‑V4.7推高了性能與效率的帕累托最優邊界。在指令（Instruct）模式下，35B‑A3B相比Qwen3.6 35B‑A3B，能用更短的推理時間取得更高綜合得分，1B版本的綜合得分與推理效率優於Qwen3.5 0.8B。MiniCPM-V4.7 1B和前代V4.6、Qwen3.5、LFM2.5-VL、Gemma-4-E2B等多模態大模型進行了橫向對比。V4.7支持4x、16x兩種視覺壓縮率，16x Token壓縮率意味著圖像token更少、推理更快、顯存佔用更低，但通常會犧牲一點精度。
從具體的基準測試結果來看，MiniCPM-V4.7 1B在General通用圖文理解、Document/OCR/文檔圖表分析、多圖理解方面更佔優勢。此外，長視頻時序理解方面，MiniCPM-V4.7 1B的表現超過了V4.6、Qwen、LFM、Gemma。MiniCPM-V4.7 35B-A3B的基準測試結果顯示，其在通用圖文、STEM數學、OCR文檔、視頻理解方面均超過了Qwen3.6 35B-A3B，僅在RefCOCO上得分略低。在純文本基準測試中，MiniCPM-V4.
7 35B-A3B的優勢是中文綜合知識和複雜多輪工具規劃，但在純文本奧數、代碼、嚴格約束指令、英文硬核專業知識方面相對偏弱。三、三種互補技術，支撐MiniCPM-V4.7端側流暢推理 MiniCPM-V4.7系列模型的核心突破，得益於面壁智能自研的LES（前瞻專家調度）技術，以及細粒度的逐層量化和DSpark推測性採樣集成。MoE模型總參數大於單次推理激活的參數，但端側不能只存激活參數。不同token會調用不同層的不同專家，設備內存通常裝不下全部專家權重。
一種思路是把權重放在SSD上按需加載、用完釋放，但頻繁加載會拖慢解碼，達不到實時交互要求；另一種辦法是縮小可用專家池，給整條提示詞固定一批專家，減少加載次數，但缺點是後續token只能從這批專家裡選，會漏掉本該選中的專家，降低模型效果。針對上述挑戰，面壁智能提出了三種互補技術： 前瞻專家調度（LES）：利用跨層路由預測來預加載下一層可能需要的專家。在實際路由器選擇的專家中，LES會優先處理那些成功預取的專家，並將它們計算與加載剩餘所需專家的計算重疊進行。預測僅指導預取和調度；計算仍然遵循模型原有的token級路由，預測遺漏的所需專家也會照常加載和評估。
▲前瞻專家調度架構（圖源：面壁智能） 細粒度的逐層量化：減少專家權重的存儲空間和內存流量，同時保持模型能力，使專家加載更適合設備內存和帶寬限制。DSpark推測性採樣集成：將推測性採樣融入到設備端推理過程中，與專家調度和量化技術協同工作，以提高解碼效率。結語：讓更聰明的MoE模型跑在端側 MoE架構的優勢在於，用更小的單次激活算力承載更大容量的模型知識庫、多模態能力，但全部專家權重無法常駐內存、動態路由帶來隨機加載延遲等問題會阻礙其在手機、AI PC、邊緣盒子規模化落地。面壁智能此次的新模型通過三大技術協同，實現了效果無損的端側MoE推理。
這套技術路線，證明高密度MoE多模態模型從雲端下沉到本地終端，支撐離線圖文分析、本地智能體等場景的潛力。
Related
相關文章
認識 Voxel51 3.0：為實體 AI 打造的統一多模態資料平臺
Voxel51 已發布 Voxel51 3.0，這是其資料平臺的一次重大更新。Voxel51 3.0 是一個端對端的多模態資料平臺，將搜尋、篩選、標註和評估整合於單一系統中。該平臺鎖定針對機器人、車輛和工廠感測器資料進行模型訓練的團隊。此次發布新增了 Voxel51 Agent、資料溯源層及免費的自助式存取。重點摘要：規模：Voxel51 Agent 內建超過 45 個 MCP 工具、80 多個運算子及 18 個開源技能。執行環境：可於 app.voxel51.com 使用託管網頁應用程式，或於雲端、混合、地端及隔離環境中自行部署。未揭露本機 GPU 需求。效能：未發布產品基準測試。Voxel51 引用其自身調查數據作為依據。最佳亮點：免費方案包含 Voxel51 Agent、每月 30,000 次推論請求及 30 個運算小時。
本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目，幫助讀者快速瞭解當天的重要動態
導航SecureDoc // EncryptionActive本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目，幫助讀者快速瞭解當天的重要動態。
下一概念建模把文本生成提速最高31倍
斯坦福等聯合提出全新文本生成範式 NCM，生成速度狂飆 31 倍AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Oct 16, 202633人工智能領域的文本生成技術迎來顛覆性創新。斯坦福大學與 Together AI 的研究人員近日聯手推出了一種截然不同於傳統自迴歸和擴散模型的全新文本生成範式——Next-Concept Modeling（簡稱 NCM，即“下一概念建模”）。該方法巧妙借鑑了圖像生成領域中“下一尺度預測”的思路，有望為未來的文本生成技術開闢全新的發展路線。在技術實現路徑上，NCM 模擬了人類“先構思宏觀大綱、再動筆填充細節”的寫作邏輯。整個系統通過兩階段訓練來完成:首先訓練多尺度殘差 VQ-VAE，從而得到能夠逐層補充信息的多層離散文本編碼;隨後凍結該系統，訓練 Transformer 模塊去預測下一層的編碼。在生成文本時，模型會先並行生成概念層面的宏觀大綱，接著逐層並行填充具體細節，最終組合成完整的文本內容。在實際測試表現中，NCM 交出了令人矚目的成績單。實驗數據顯示，在保持相近甚至更優生成質量的前提下，NCM 相對傳統的擴散語言模型實現了10到31倍的生成速度飛躍，並且在訓練過程中所需消耗的 token 數量也大幅減少。此外，在數獨等複雜推理任務上，它的表現也明顯優於傳統的自迴歸和擴散基線模型，同時還支持通過多生成候選挑選機制來進一步優化最終輸出效果。儘管目前該研究所使用的模型參數規模依然相對有限，其在擴大模型規模後的表現、精確文本以及長篇內容的生成能力仍有待後續驗證，但這一創新思路無疑打破了長期以來的技術慣性，為人工智能高效生成文本提供了充滿想象力的全新解法。本文來自AIbase日報掃碼查看歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南，每天我們為你呈現AI領域的熱點內容，聚焦開發者，助你洞悉技術趨勢、瞭解創新AI產品應用。
Claude自主優化八類量子電路設計
ScienceDesigning more efficient quantum circuits with ClaudeOct 16, 2026Quantum computers will need carefully designed circuits to run useful algorithms on limited hardware.
12.88萬起、華為電驅+L4同源智駕，Ray7能成為埃安年輕化的答卷嗎？
12.88萬起、華為電驅+L4同源智駕，Ray7能成為埃安年輕化的答卷嗎？ 本文作者： 倪萍 2026-10-17 22:42 導語：10月17日，埃安轎跑Ray7正式開啟預售，預售價12.88 萬起。新車車長4.9米，軸距2.9米，車頭部分搭配3.25米的超長雙環燈帶，是埃安10年煥新的家族 10月17日，埃安轎跑Ray7正式開啟預售，預售價12.88 萬起。新車車長4.9米，軸距2.9米，車頭部分搭配3.25米的超長雙環燈帶，是埃安10年煥新的家族式標識。 新車採用寧德時代電池以及廣汽自研的彈匣電池2.0技術，能夠在充分釋放續航能力的同時，監控電池健康狀態。提供45.58kWh和62.98kWh兩種規格，續航可達702公里，整車風阻係數 Cd 低至 0.22。Ray7搭載華為DriveONE多合一電驅，以及華為DriveONE芯片級驅制融合架構，百公里制動僅為32.8米。底盤方面，Ray7搭載高性能前後穩定杆和後五連桿懸架，過彎極限更高，濾振更乾淨。智能化上， Ray7搭載27顆車規級全視角傳感器，採用文遠知行L4級Robotaxi同源大模型。這幫助新車能夠複用 L4 積累的海量場景經驗，在城區掉頭、繞行等複雜場景中可順利通行。自2025年廣汽推進“番禺行動”以來，昊鉑埃安BU的研發、生產、銷售等環節效率不斷提升，產品迭代和新車投放節奏明顯加快。作為埃安全新Ray車系的首款新車，Ray7是埃安開啟年輕化序列的關鍵落子，也是廣汽切入20萬級市場的重要佈局。這一細分市場競爭並不輕鬆：小鵬P7、極氪007等車型已經提前卡位。Ray7想在年輕人心中佔位，不能只堆參數，更要把智能座艙與輔助駕駛、三電安全、補能效率、用車成本和價格權益上的差異，變成用戶可感、可信、可持續的體驗，這才是埃安年輕化的分水嶺。（雷峰網(公眾號：雷峰網)） 雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
梁聖又掀桌了！DeepSeek新模型斬殺GPT-6，許願式編程時代降臨
作者 | 楊京麗 編輯 | 李水青 10月17日報道，剛剛，DeepSeek V4.1 Flash更新至V4.1-Flash-1017版本，官方網頁端、App與API已同步更新至新模型，模型權重也已在HuggingFace和ModelScope開放下載。DeepSeek還向公眾開放自研搜索引擎的Search（搜索）與Fetch（抓取）API，兩個接口均定價為5元/千次。 此次更新距離該模型發佈僅過去一個多月。9月10日，DeepSeek正式推出V4.1-Flash，在性能上超越了DeepSeek-V4-Pro。