端側AI不是雲端AI的縮小版，安謀科技要建邊端側AI算力底座｜WAIC 2026

世界人工智能大會（WAIC）2026 在上海登場，超節點與萬卡集群成為算力領域最受矚目的焦點。更大的集群規模、更高的傳輸頻寬、更強的供給能力，共同構成了大模型時代最直觀的基礎設施敘事。然而，在雲端算力競賽如火如荼之際，安謀科技（Arm China）卻在 WAIC 期間的 AI 前瞻會上，將討論的焦點拉向另一個極端：當人工智慧從雲端走進手機、AI PC、智慧家庭、汽車、機器人、工業設備與邊緣節點時，算力問題不再只是「夠不夠大」，而是「合不合適」。「我們認為，邊端側 AI 不是雲端 AI 的縮小版，而是由功耗、即時性、軟體、數據、可靠性共同定義的全新計算市場。

」安謀科技 NPU 產品線負責人、首席架構師舒浩博士在 AI 前瞻會上的這番話，比任何具體產品參數都更值得被記住。這項論點直接挑戰了業界常見的思維——將邊緣 AI 視為雲端 AI 的輕量化移植，而是強調端側場景有其獨特的物理與應用限制，必須重新設計計算架構。在這次前瞻會上，安謀科技並沒有將 CPU、NPU、VPU 與 AIOS 拆成四個孤立的產品來介紹，而是端出一套完整的端側 AI 系統解答。

在硬體層面，他們強調異構計算架構，將不同類型的處理單元整合在一起，針對不同任務分配最適合的運算資源；在軟體層面，則著重於生態系統的建立，提供統一的開發介面與工具鏈，讓開發者能更有效率地將 AI 模型部署到邊端裝置上。安謀科技正試圖從晶片 IP 供應商的身份，轉型為邊端側 AI 基礎設施的組織者。端側 AI 面臨的最大挑戰，是如何在資源受限的環境中穩定運行。與雲端資料中心擁有近乎無限的電力與冷卻資源不同，手機、智慧感測器、機器人等裝置的功耗預算極為嚴格，同時還必須滿足即時反應、資料隱私與離線運作等要求。

舒浩博士指出，邊端側 AI 不是單純把雲端模型壓縮後塞進終端，而是需要從底層重新思考計算架構，讓晶片在極低功耗下仍能提供足夠的推理效能。與此同時，模型本身的演進也為端側 AI 帶來了新的機會。安謀科技 CPU 產品總監朱曉鳴在演講中提到，2022 年到 2023 年間，要達到商用門檻的模型規模往往需要數百億參數（數百B）；但隨著演算法持續進步，到了 2025 年與 2026 年，接近 10 億參數（約 1B）體量的模型也有機會達到商用最低標準線。這意味著，過去只能由雲端大型模型處理的任務，現在有機會在終端裝置上即時完成，大幅降低對雲端連線的依賴。

模型規模的縮小並非單純剪枝或量化，而是來自於注意力機制、稀疏運算、知識蒸餾等技術的成熟。這讓安謀科技認為，端側 AI 的算力需求將呈現「多樣化、層級化」的趨勢，不同裝置需要不同規模的模型與不同效能的 NPU 組合。安謀科技的 NPU 產品線正針對這些需求，提供從數十 TOPS 到數百 TOPS 的彈性 IP 方案，讓客戶可以根據產品定位選擇最合適的算力配置。除了硬體 IP 的異構整合，安謀科技也著重於軟體生態的鋪設。他們推出的 AIOS 平台，旨在統一不同硬體單元的驅動與中介軟體，讓開發者不必針對 CPU、NPU、VPU 分別撰寫程式碼，而是透過一套 API 就能調用所有運算資源。

這項策略背後的核心邏輯是：如果開發者難以在端側部署 AI 模型，再好的硬體也無法發揮價值。安謀科技希望透過降低軟體開發門檻，加速邊端 AI 的應用落地。在應用場景方面，安謀科技特別點出智慧手機、AI PC、智慧家居與汽車領域的潛力。以智慧手機為例，端側 NPU 可以讓相機即時美顏、語音助理離線運作、遊戲畫面幀率最佳化，同時保護用戶隱私。在汽車領域，邊緣 AI 晶片則負責處理感知融合、路徑規劃等即時任務，對功耗與可靠性的要求比消費電子更為嚴苛。安謀科技認為，這些場景的共同特徵是「低延遲、高隱私、有限功耗」，正是端側 AI 最能發揮優勢的地方。

相較於雲端 AI 追求「更大、更強」的單一維度，邊端側 AI 更講究「合適」——在對的時間、對的地點，用對的算力完成對的任務。安謀科技在 WAIC 2026 上釋放的訊息，不僅是對自家產品路線的宣示，更是對整個 AI 產業鏈提出一道思考題：當 AI 從雲端擴散到世界的每一個角落，計算的定義是否應該重新書寫？答案或許就藏在功耗、即時性、軟體、數據與可靠性這五個關鍵字之中。