企業爆買AI Box

半導體產業縱橫2026.09.22 15:53 · 來自北京全文4115字00:00 / 11:32AIBox是算力買斷，還是買內存送處理器的營銷手段?文 | 半導體產業縱橫一臺放在辦公桌上、比機頂盒大不了多少的機器，塞著上百 GB 統一內存，斷網也能跑千億參數大模型。不用機房，不用機櫃，插電即用，數據不出房門。這就是AI Box，一臺搬上辦公桌的數據中心。AI Box賽道中蘋果、英偉達、AMD、微軟、英特爾悉數到場。但這種形態並不新鮮，為何2026年“連上顯示器就是臺電腦”的小盒子成了必爭之地？大模型有兩種用法：調雲端，或者在本地跑。

雲端意味著AI能力無上限，模型不用自己管，最強的能力隨時可用。但賬也很清楚：訂閱制裡，ChatGPT Pro、Claude Max 都是 200 美元/月封頂；封頂之外按量計費，9 月 3 日剛發佈的 GPT-6 Astra，輸出價格是每百萬token 50 美元。對跑智能體的重度用戶，一次長任務輸出數萬 token，一個月燒掉幾百到上千美元是常態。業內人士表示，過去兩年企業上 AI，絕大多數卡在“從概念到落地”的摸索期：場景要試、流程要換、提示詞要調。這個階段每一分鐘都在花 token 的錢，而老闆往往只給得出方向，給不出具體要求。“燒了很多錢，出什麼結果呢？不知道。

”本地部署的邏輯因此成立：主流模型大多開源免費（DeepSeek、Qwen 系列均為寬鬆協議開源），硬件一次性購入，之後沒有 token 賬單，數據不出機房。預研、驗證、反覆試錯，成本是固定的。AI Box因此而生。01 什麼樣的Box才能叫AI Box？AI本地部署有一道硬門檻：模型得先“裝得下”，內存就是AI Box的入場券。跑大模型的前提，是權重全部裝進內存或顯存。DeepSeek-R1 滿血版 6710 億參數，全精度（FP16）需要約 1.3TB 顯存，FP8 量化約 0.7—0.8TB，即使 4-bit 量化也要 400—480GB8。

作為對照，一張 RTX 5090 是 32GB 顯存9，一臺高配筆記本是 24—32GB 統一內存——只能塞下 70 億參數級別的小模型。這就是桌面 AI 設備最大的技術命題：在一臺放得進桌子的機器裡，塞進儘可能大的統一內存，餵給模型儘可能高的帶寬，再把功耗壓進辦公室插座能承受的範圍。容量決定能跑多大的模型，帶寬決定多少人能同時用、出字有多快，功耗決定它能不能放在辦公室而不是機房。在這三個維度上，最戲劇化的事情是：準備最充分的那家公司，本來不是為 AI 設計的。

2020 年，蘋果把 Mac 遷到自研 M 系列芯片，做了一個當時看相當激進的決定：CPU、GPU、神經引擎共享同一塊內存，內存即顯存。這個叫統一內存（UMA）的架構，初衷是砍掉數據在芯片間搬運的開銷、壓低功耗。五年後大模型時代降臨，這套架構剛好踩中了所有需求點。今天的 Mac Studio，M3 Ultra 版本最高可選 512GB 統一內存、內存帶寬 819GB/s，整機最大持續功耗 480W10；9 月 22 日發售的 M5 Ultra 款，帶寬進一步拉到 1.2TB/s，國行 46999 元起。蘋果官方口徑，這臺機器可以跑 6000 億參數以上的模型。

據報道，過去幾個月，OpenAI 採購了數萬臺 Mac mini 和 Mac Studio用於強化學習和Agent的開發，需求旺到多次催促蘋果發貨。庫克在 7 月的財報電話會上承認，“越來越多客戶把 Mac mini 用作運行智能體的強大平臺、部署 Mac Studio 集群在本地運行前沿模型”，並表示當季 Mac 一直面臨供應限制。02 英偉達：不賣機器，賣“同款架構”如果說蘋果是“無心插柳”，英偉達則是看到了市場需求後的“降維打擊”。

DGX Spark 用的是 GB10 Grace Blackwell 超級芯片，128GB 統一內存、273GB/s 帶寬、FP4 精度下 1 PFLOPS 算力，整機功耗 240W，官方標稱單機可推理 2000 億參數模型、兩臺互聯跑 4050 億。美國官網售價 4699 美元，國行首發價約 3 萬元，內存漲價後已逼近 4 萬。單看紙面參數，它對 Mac Studio 毫無優勢。但 DGX Spark 跑的是 DGX OS（Ubuntu），軟件棧和數據中心裡的萬卡集群同源，CUDA 生態、企業級支持，開發者在桌上調好的東西，可以無縫搬到雲上。

圍繞英偉達DGX Spark，宏碁、華碩、戴爾、技嘉、惠普、聯想、微星七家 OEM 同時推出同芯片整機，微星的版本低到 2999 美元，聯想 ThinkStation PGX 去年 7 月已經進入中國政企採購目錄。相對於蘋果，英偉達給AI Box更加清晰的市場定位與銷售野心。如果說 Spark 是給開發者的入門機，DGX Station 就是給小團隊的桌邊工作站：GB300 芯片、748GB 一致性內存（252GB HBM3e 加 496GB LPDDR5X）、FP4 20 PFLOPS、整機 1600W，官方宣稱能跑萬億參數模。

雖然功耗已經摸到普通辦公室電路的上限，但仍然比機房服務器低一個數量級。今年 6 月 Build 大會，微軟發佈 Surface RTX Spark Dev Box：和 DGX Spark 同款 GB10 芯片、128GB 統一內存、1 PFLOPS，熱設計功耗壓到 100W，預裝 Windows 11 Pro 開發者版，標稱本地可跑 1200 億參數模型、百萬 token 上下文，下半年在美國發售，媒體估價 3000—3500 美元。它的入場意義大於產品意義：Windows 生態需要一個官方答案，告訴開發者本地 AI 不必非買 Mac。

03 X86陣營：展示推理時代的性價比AMD 的Ryzen AI Max+ 395（代號 Strix Halo）把 128GB 統一內存、256GB/s 帶寬做進了 55—120W 的功耗牆，NPU 50 TOPS、平臺總算力約 126 TOPS。今年三季度，換代的 Ryzen AI Max 400（Gorgon Halo）會把統一內存上限拉到 192GB，官方稱可跑 3000 億參數模型。X86的底牌是兼容，Windows、Linux 直接裝，企業已有的運維體系全部複用。性能不是最強，但不用換生態，就是採購決策裡最大的權重。

英特爾推出了 Panther Lake（Core Ultra 300 系），NPU 算力 50 TOPS，塞進每一臺筆記本和迷你主機；最接近盒子形態的 NUC 16 Pro，內存上限 96GB，定位是 Copilot+ 迷你 PC。值得注意的是，英特爾的AI Box不只是放在桌面上的盒子，英特爾還把AI Box放到了智能汽車上，讓過去算力不足的汽車擁有算力加成。可以看出，英特爾將AI Box的目標定位到了更具體的B端場景中。04 AI Box，到底誰在買？盒子賣出去之後，到底幹出了什麼？

在高職教育場景中，學校把備課、批改、實訓答疑、教案沉澱分別做成教師、學生、管理三組智能體，裝在盒子裡本地化運行。試點後的數據是：教師周均備課時間從 9.2 小時降到 5.1 小時，每班批改時間從 2 小時壓到 0.4 小時，實訓錯誤率從 22% 降到 14.3%，優秀教案複用率從不到 10% 提到 67%。另一個是律所場景，卷宗不能出所，正是盒子的主場：類案檢索壓縮到 40 秒以內，司法文書自動生成覆蓋率 80% 以上，利益衝突審查準確率 95% 以上。這些場景的選擇邏輯很清晰：重複性資料處理 + 數據安全敏感 + 結果可被人工複核。

而AI Box的優勢也十分明顯，傳統本地服務器方案要機房改造、週期三到六個月，公有云 API 即時開通但數據有出域風險，而盒子桌面即插即用、物理隔離，部署時間以小時計。從賣算力到賣效率，這個轉變本身說明：市場已經過了“為參數買單”的階段，開始為結果買單。05 寫在最後AI Box有多大潛力算的是一筆經濟賬。自建機房要8 張 RTX 4090 的整機，批發平臺上報價 35 萬元上下，整機峰值功耗 4800W 以上，要機房、要散熱、要工程師裝機維護，一定需要一個獨立機房。雲端AI能力無限，但 token 賬單隨使用量線性增長，摸索期花費無上限。

AI Box 從千元到萬元，功耗 100—480W，插電即用，模型免費，試錯成本固定。與 8 卡服務器相比，功耗相差 10 到 30 倍。擺在行業面前的問題是，ROI 仍然算不清。真正掏錢的採購方，得拿自己的流程重新折算一遍。客服這類能折算成“少多少坐席”的場景好量化，但所謂對流程的優化，效率的提升無法良好。此外，如同自動駕駛推進的權責問題，在實際工作中如果AI 出錯，誰來檢查，誰來負責，也沒有答案。現實情況是，當前成熟場景只有兩個：寫代碼和辦公，其餘場景大多還在摸索。而硬件只是門票：數據治理、微調、迭代以三到六個月為週期，模型一換，上層應用大概率要跟著返工。

還有一個思考是，一般情況下，盒子不能升級，擴容只能再買一臺機器。在 DRAM 成本高企的情況下賣盒子似乎成了消化高價存儲的一種方案。對市場來說，他們更需要看到AI Box到底能做什麼。AI Box 不是來取代雲的。需要最強模型、彈性算力、零維護的任務，雲端依舊是最優解。盒子承接的是另一類需求：反覆試錯的預研、不願上雲的數據、十來人小團隊的固定算力、算得清電費和折舊的小本生意。AI Box的出現是把硬件做小，在支付固定成本後，實現算力自由。歸根結底，產品的未來是算力如何落地，如何帶來真正的價值。