端側AI：芯片、模型與終端的隱秘戰爭

節點財經2026.09.23 16:06 · 來自山東全文3828字00:00 / 12:09過去三年，雲端證明了AI能有多聰明，但最聰明未必與生活場景最接近，接下來端側要證明的，是如何在智能、成本、功耗上把握一個平衡點，讓AI真正成為設備的一部分。文 | 節點財經，作者 | 梁添 過去幾年，AI行業的主流敘事是一場基於Scaling Law的狂熱競賽。數據中心的GPU堆積如山，模型參數輕鬆越過萬億大關，玩家們在算力、數據和算法的牌桌上瘋狂加碼。一個極其現實的問題浮出水面，這些龐然大物，只能運行在數據中心，然而現實生活中，各種終端設備才是最貼近消費者的產品。

可惜，算力與應用之間，隔著一道物理鴻溝。好在，一股去中心化的力量蓄勢待發。搭配了終端小模型的AI手機、AI PC、智能汽車、機器人乃至AI眼鏡迎來了集體井噴。面壁智能CEO李大海將2026年定義為端側AI商業化元年。Gartner預計，2026年全球AI PC出貨量將佔PC市場的半壁江山；Counterpoint也預測，具備生成式AI能力的智能手機將在同年拿下45%的全球份額。新的產品分野正在成型，最頂尖的超級大腦依舊坐鎮雲端，而那些高頻、低延遲、與個人隱私深度綁定的任務，正下沉到終端。為什麼模型開始離開雲端？雲端AI與端側AI的區別，簡單概括為外包和內置。

大眾熟知的DeepSeek、kimi、ChatGPT，大多發佈的是參數量動輒數千億、上萬億大模型。我們需要付費調用API key，哪怕免費的Chatbot也是模廠把模型封裝為聊天機器人。推理過程並不是在本地完成，而是設備將需求發送至雲端，數據中心的GPU集群完成計算後，再將結果傳回。而端側AI，則小得多，參數量級通常只有幾B，推理過程直接在終端本地離線完成，相當於設備有了一個本地部署的大腦。端側模型雖然沒有云端大模型聰明，但輕量級+本地部署的特點，讓端側AI在成本、延遲與隱私上具備獨有優勢。想象一個長期運行的AI Agent，它能幫你規劃行程、整理會議記錄、甚至回覆郵件。

方便是方便，但一次任務可能包含幾十個步驟，若每一步都要在雲端往返，累積的延遲將影響用戶體驗，持續燃燒的Token也會堆積為天文的算力成本。更致命的是隱私。當Agent真正進入PC和手機後，它觸及的不再是互聯網上的公共語料，而是用戶的私人照片、賬號權限、聊天內容。這些信息高度敏感。數據到底要不要離開設備？這個大眾廣為關注的隱私問題，成為懸在雲端模型廠商頭上的達摩克利斯之劍。或許你會說大模型都開源，直接本地部署不就可以了？這裡要說明，大模型哪怕本地部署對算力有極高要求，是企業級玩家的專屬，對C端消費者來說，本地小模型與雲端大模型協同，才是兼顧能力、隱私與成本的現實方案。

這時候問題來了，都知道端側ai方便，可為什麼大模型興起幾年後，端側ai的聲量才起來呢，因為落地並不簡單。為什麼偏偏現在擠進終端設備？要把小模型塞進小小的智能設備並非易事。模型都需要芯片支持計算、存儲與通信，雖然現如今的數塊GPU的算力能支持千億萬億大模型推理運行，但要讓芯片跑在狹小逼仄的C端設備上，給小模型做推理依然是個難題。若芯片昂貴，雖能承載的模型聰明，但成本往往過高且功耗過大，物理空間逼仄的pc和手機難以承載，若芯片功耗達標，往往可能無法保障智能。總體來看，端側AI想要落地並且實現商業化，通常面臨性能、功耗、成本的不可能三角。

好在過去幾年底層硬件與算法的迭代，可以在不可能三角之間尋找到平衡點。首先是算力結構的升級。在端側，跑得快還不夠，如何降低數據讀寫帶來的巨大功耗，是芯片廠商比拼的內功。NPU技術成熟，正成為消費電子的標配。比如，針對終端模型，高通、瑞芯微、華為等廠商已經開始針對推理場景進行極致優化，通過共享內存減少數據搬運，甚至專門為長上下文和MoE模型調整芯片架構，通過軟硬一體，服務更多模廠。其次是模型能力密度的躍升。早期的小模型往往是人工智障的代名詞，但現在，端側模型也可以小身材大能量。廠商通過蒸餾提升小模型能力，量化降低模型存儲與計算開銷，稀疏注意力等技術進一步壓縮長上下文推理成本。

清華大學與開源社區OpenBMB提出的密度定律指出，大模型的能力密度隨時間呈指數增長，約每3.3至3.5個月翻一番，即每隔約一百天，只需一半參數量的模型即可達到當前最優性能。以面壁智能開源的MiniCPM5-2B為例，僅2B參數便能在評測中領跑小模型賽道，甚至具備了調用工具和代碼生成的能力。最後是操作系統的底層重構。如果端側AI只停留在一個對話框裡，它永遠只是個玩具。Agent要真正發揮價值，必須擁有讀取系統上下文、接管攝像頭以及調用第三方APP的權限。階躍星辰的Step AOS、vivo的藍心大模型，都在試圖打通這層壁壘，將成千上萬的操作系統的原子能力轉化為AI可調用的工具。

芯片提供算力底座，模型拔高能力上限，操作系統開放執行權限，端側AI的技術閉環，終於在當下正式合攏。誰能吃到端側AI的紅利？端側AI不是單一產品，而是分佈在芯片、模型、infra、終端。當AI能力從雲端向終端下沉之後，中國端側AI市場也開始出現不同的路線分化。在《節點財經》看來，誰控制其中關鍵層，就能獲得不同的議價權和分發權。表面上看，廠商們都在押注端側AI。仔細瞧，它們並不是孤軍奮戰，只不過策略並不相同。第一類是模型供應商。這類公司的核心邏輯，是把模型做到足夠小、足夠強，並適配儘可能多的硬件平臺。面壁智能早在2023年就放棄千億級雲端基座模型，全面轉向端側，並提出“能力密度”概念。

其MiniCPM系列持續沿著小參數、高能力方向迭代。9月7日開源的MiniCPM5-2B參數規模僅2B，主要面向手機、PC等終端本地部署，同時強化了Agent能力。與手機或汽車廠商不同，面壁本身並不掌握終端，它希望扮演獨立第三方模型供應商的角色，將同一套端側模型能力部署到手機、汽車和機器人等不同設備。目前，MiniCPM已經進入三星Galaxy AI相關端側能力，汽車端智能座艙助手cpmGO也隨長安馬自達MAZDA EZ-60量產；在具身智能方向，MiniCPM-Robot則進入展廳導覽、園區巡檢等場景。

這類企業競爭力並不只是模型Benchmark，而在於能力密度、量化壓縮、跨芯片適配和模型生態。它們要證明的是，一家獨立模型公司也可以成為不同硬件廠商共同使用的AI能力供應商。科大訊飛同樣在推動小模型端側化，但路徑有所不同。9月1日，科大訊飛開源星火X2.5-4B/1.7B兩款端側模型，支持最長100萬Token上下文，並將重點放在AI辦公等已有優勢場景。相比面壁試圖成為橫向模型供應商，訊飛更接近於用端側模型強化自身在語音、辦公和企業生產力領域的既有產品。第二類是芯片玩家。

瑞芯微這類廠商主要提供 SoC、NPU 和配套工具鏈，服務手機、機器人等不同終端，其核心價值是把模型以可接受的功耗、成本和性能部署到硬件中。與這種相對通用的芯片供應模式相比，地平線進一步向軟件和場景縱深延伸。它不僅提供征程系列芯片，還擁有輔助駕駛系統、模型和軟件棧，因此更接近軟硬一體的計算平臺。其競爭力不只來自芯片本身，而來自芯片、模型和算法的協同優化。第三類是Agent入口型玩家。比如，時下大熱的豆包手機。傳統智能手機中，用戶先打開APP，再完成打車、點餐、支付等任務；Agent時代，用戶可能只需要一個自然語言指令，就能讓AI在不同應用之間完成任務調用。

這也是豆包聯合中興努比亞持續推進AI手機的重要背景。在首代豆包手機努比亞M153之後，雙方將方案從跨App操作進一步轉向端側MCP，希望讓Agent更加深入地調用手機能力。第二代豆包手機NaviX Ultra試圖通過語音Agent完成打車、點餐等任務，並增加視覺感知能力。雖然現階段可調用的第三方服務仍然有限，支付等高權限場景也受到安全約束，但其戰略方向已經比較明確：手機只是載體，把模型裝進手機，是字節爭奪的Agent時代的C端入口的策略。第四類是以階躍星辰為代表的縱向整合玩家。與面壁主要提供模型、豆包主要爭奪入口不同，階躍星辰希望進一步打通基座模型、Agent系統和硬件終端。

7月13日，階躍星辰發佈終端品牌STEPX及Agentic Phone STEPX Neo。與此同時，公司與千里科技、吉利在汽車領域展開合作，並推動Step AOS進入車端。這意味著階躍的目標並不只是把模型賣給設備廠商，而是希望從底層模型開始，一直延伸至Agent操作系統和終端產品。它代表的是另一種端側AI路線：通過縱向整合，儘量控制模型如何感知環境、如何調用工具，以及最終如何與手機、汽車等硬件結合。以上路線都有一定技術門檻，讓企業應接不暇，自己的業務用哪些芯片、用哪些模型，怎麼和企業生態結合成為難題。因此市場上，衍生出交付型玩家。客戶提需求，他們負責把這些東西組合成一套可交付的方案。

比如，在汽車這種對安全要求極高的場景，德賽西威可以根據車型價格、芯片算力和客戶需求，決定哪些功能放在本地，哪些任務交給雲端，並提供不同規格的模型和計算方案。相比起大模型追求智能的上限，端側AI這些問題更偏向工程優化，這決定了端側產品到底是一個用來在發佈會上炫技的Demo，還是真正能走進生活的產品。過去三年，雲端證明了AI能有多聰明，但最聰明未必與生活場景最接近，接下來端側要證明的，是如何在智能、成本、功耗上把握一個平衡點，讓AI真正成為設備的一部分。