鈦媒體生成式AI

大模型進不了內網之後,企業 AI 的生意才真正開始

2026年7月19日 16:17
大模型進不了內網之後,企業 AI 的生意才真正開始

重點摘要

大模型因數據安全禁令無法進入企業內網,反而催生了高單價的項目制AI生意,包含硬體、集成、運維與責任,而非單純的API調用。企業真正花費百萬購買的是權限控制、驗收標準與事故歸責,這使得內網AI部署成為一門工程生意,而非標準化軟體。

站內 AI 整理稿

一份企業智慧體專案的規格文件近日引發關注,文件中反覆出現的關鍵字並非哪個模型更聰明,而是「中心下發、邊緣運行、斷網緩存、恢復續傳、分級權限、操作留痕」。驗收標準更獨立成章,顯示出企業導入AI時,真正在意的並不是對話能力,而是斷網後能否正常運作、出錯誰來發現、出了事誰負責。 這種「數據不出域」的焦慮,曾在2023年4月於三星半導體內部引爆。根據韓媒報導,有工程師將出錯的原始碼貼進ChatGPT請求除錯,短短二十天內發生三起類似事故。一個月後,三星全面禁止員工在公司裝置上使用外部生成式AI。此後三年,銀行、晶片廠、律師事務所接連跟進,禁令在中國政企市場更被文件化的用語稱為「數據不出域」。 許多人將這道禁令視為企業AI落地困難的證據,但實際上恰恰相反。政策推動、技術成熟與效率預期才是需求來源,禁令只是改變了需求落地的形式:原本按Token支付給雲端廠商的費用,如今開始流向一體機、私有化部署、系統整合與長期維運。換句話說,需求不是禁令創造的,但今天這種按專案計價的企業AI生意,確實是禁令餵養出來的。 ### 模型論分賣,進門費論百萬收

在公開網路上,調用大模型一天比一天便宜。API價格戰打了兩年,DeepSeek已將快取命中的輸入價格壓到每百萬Token新台幣約0.1元(約人民幣2.5分);即使未命中快取,每百萬Token也僅需新台幣約13.5元(約人民幣3元)。處理一部《紅樓夢》體量的文本,輸入成本不過幾十元。 但內網裡是另一套價格。根據投中網2025年4月對十二家DeepSeek一體機上市公司的調研,一台能跑滿血版模型的NVIDIA H20一體機要價新台幣約675萬元(約人民幣150萬元);若改用國產晶片,一台跑不動需買兩台,預算直逼新台幣1800萬元(約人民幣400萬元)。一邊是公網模型論分賣,另一邊是將數百B參數模型搬進內網所需的硬體與交付費,兩者指向同一個變化:基礎模型越來越便宜,讓模型在企業邊界內穩定運行依然昂貴。 市場的錢也對不上「落地難」三個字。根據智能超參數統計,2025年全年大模型中標項目達7539個,披露金額新台幣約1328億元(約人民幣295.2億元),較前一年分別增長396%與356%;千萬級大單314個,是前一年的三倍多;億元大單44個,是前一年的四倍。國資委2025年2月召開中央企業「AI+」專項行動深化部署會,對央企而言,接入大模型從選擇題變成任務。買單最痛快的是政務行業,44個億元大單中佔了一半。 ### 內網裡沒有產品,只有專案

進門費為什麼這麼貴?因為內網把一門軟體生意打回成一門工程生意。公有雲API是標準品,可以複製給成千上萬客戶,但內網部署每一家都是孤島。企業資料散落在業務庫、郵件附件、掃描件與員工電腦裡,同一個制度存著五個版本,網絡環境不同,國產晶片型號不同,對接的老系統也不同。沒有規模效應,只有一個又一個專案,交付靠人堆。 熱鬧與成交也是兩回事。雲天勵飛副總裁羅憶2025年4月形容客戶熱情「從地上跳到空中」,但大概率會「回到桌上」。投中網調研指出,有時兩三百個諮詢進來,最後可能沒有一單落成。實際交付中,滿血版與蒸餾版大約五五開:一半客戶咬牙上671B,另一半選擇三四十萬元的32B、70B蒸餾版。兩者能力、硬體要求與交付價格不在同一層級,對外卻都被統稱為「大模型私有化部署」。還有中間商低價搶單、當天部署,RAG框架粗糙到把專業術語從中間切開,檢索出來全是碎片。結果就是機器部署完成,業務卻沒有真正跑起來。 MIT NANDA在2025年的一份初步報告中估計,只有約5%的定製化企業生成式AI工具實現「成功部署」,即產生持續的生產力或損益影響。這個數字不能證明剩下的機器都在吃灰,但說明完成試點與產生回報之間,還隔著一條很深的溝。 ### 回答得越準,事故可能越嚴重

將模型搬進內網,風險並未消失,只是挪了個地方。在公網上,企業怕的是數據出去;進了內網,怕的變成答案出來。傳統系統的權限管到選單、介面與資料庫就夠了,但大模型進來後,權限還得跟進檢索的每一步。系統必須判斷「眼前提問的這個人,配不配看到它」。財務能查合同,不代表銷售能看到裡面的付款條款。這一步沒做好,模型越強,窟窿越大:一個能把薪資表、客戶底價一字不差背出來的模型,在能力評測是滿分,在企業裡卻是事故。 驗收是另一道坎。傳統軟體是確定性的,點按鈕就出結果;大模型靠機率運作,今天答對,明天可能換個說法。企業要讓它上生產系統,就得給它套一層確定的殼:測試集、信賴度、人工複核、異常回退、日誌留痕。政企客戶掏錢買的,正是這層殼——模型負責聰明,殼負責把聰明管住:錯在哪查得到,錯了之後有人認。而且這層殼年年要續費。正如投中網調研所寫,點亮一體機只是「小時級」的工程,真正的工作都發生在部署之後:數據治理、權限體系、業務適配、模型迭代。 2025年的「標王」不是一家以出售Token為主的模型創業公司,而是科大訊飛這類全棧廠商:210個項目、新台幣約104億元(約人民幣23.16億元)中標金額,連續兩年第一。按公開中標金額粗算,平均每單超過新台幣4950萬元(約人民幣1100萬元),這是整合商的單價結構,不是標準軟體的訂閱結構。以政企生意見長的智譜,中標項目數也不到訊飛的三成。模型基礎權重可以免費獲得,收進門費的,是造機器、搬機器和調機器的人。 ### 模型先進內網,邊界不會鬆動

二十年前企業也說數據是命根子、堅決不上雲,結果該上的最後都上了,AI憑什麼例外?這得算兩筆帳。第一筆是甲方經辦人的帳:按量調用API意味著持續性服務支出與長期數據流轉風險;一體機則更容易進入既有的硬體採購、資產管理與專案驗收體系。更要緊的是責任:伺服器利用率不高,損失可計量且有上限;數據洩漏的損失與責任卻難以估算。在這套決策結構裡,可計量的浪費往往比不可計量的風險更容易被接受。 第二筆帳,把這一輪AI與當年的雲端運算分開了。過去企業很難在機房內獲得與公有雲相同的彈性算力、軟體服務與維運能力,能力差距推動大量業務上雲。這一次,DeepSeek們把足夠可用的開源權重放進了企業機房,內外能力的差距第一次縮小到許多客戶可接受的程度。留在內網依然要承擔硬體、維運與模型更新成本,但不再意味著必須使用明顯落後一代的能力。過去企業把數據送到算力旁邊,現在開始把模型搬到數據旁邊。 當然,不是每一家企業都需要把模型鎖進機房。寫通用文案、處理公開資訊,用雲服務更便宜也更快。但政企客戶做這道選擇題時,擺在桌上的是責任。這本帳一天不變,答案就一天不會變。別指望這道邊界是臨時的。模型在內網裡用得越深,餵進去的數據越核心,數據就越出不去,規矩也就越多。企業AI走到最後,可能不是「萬物上雲」的續集,而是每一家像樣的機構都養一個自己的AI機房,就像二十年前每個單位都養過一個ERP專案組。 今年上半年的中標數據已在預演下一集。智能超參數的最新統計中,2770個應用類中標項目約四分之一與智慧體有關,其中180個項目在建「智慧體開發平台」。名詞從大模型換成智慧體,標書結構一個字沒變。至於當年第一個吃到苦頭的三星,它沒有只等著外部服務消除數據顧慮。2023年11月,三星發布自研的Gauss模型,隨後將Gauss Portal用於員工內部辦公,Gauss也參與了Galaxy AI部分能力的研發。這家巨頭用行動表明:外面的模型可以繼續變化,企業的數據邊界必須由自己控制。 公網上的人還在爭論AGI哪一年到來,內網裡的人不太摻和這個話題。他們知道答案很簡單:不管AGI什麼時候來,來了,先辦入網手續。

Related

相關文章

智東西生成式AI

亮相WAIC|靈汐科技LynAInfra(靈琍)類腦超節點重磅登場,重構大模型推理新格局

本屆世界人工智能大會WAIC期間,靈汐科技正式重磅發佈自研類腦超節點集群產品——LynAInfra(靈琍),以全鏈路自研的類腦算力方案,破解當下AI推理行業痛點,為國產高速推理賽道帶來全新選擇。 當前人工智能行業發展遇到明顯桎梏,能耗過高、推理延遲偏高兩大難題,持續阻礙AI推理業務大規模落地。即便GPU產品迭代更新,傳統芯片架構的底層侷限依舊無法被打破;但市場端推理需求迎來爆發,未來推理業務將佔據AI基礎設施市場80%以上份額。 伴隨著Token經濟興起,AI編程加速、AI視頻生成、多智能體協同等高價值場景,對推理時延和使用成本提出更高標準,GPU方案運營開銷大、首token延遲偏高的短板愈發突出,英偉達佈局Groq加碼高速推理賽道,也印證行業正在急切尋找推理架構革新方案。 立足行業現狀,靈汐科技依託自研類腦芯片存算一體、事件驅動、眾核並行的先天特質,發揮低功耗、低時延核心優勢,傾力打造面向高速推理場景的LynAInfra類腦高性能超節點,對標創新版Groq。 相較傳統GPU方案,產品推理能效比提升3-10倍,首token延遲壓縮至幾十到百毫秒級別,兼顧強悍推理性能與出色能耗水平,樹立起“瓦特換比特”的算力全新標杆。 LynAInfra靈琍一體化超節點集群由靈汐科技完全自主研發,依託國內已實現規模化商用落地的類腦芯片構建。LynAInfra128算力櫃搭載128張HP640系列板卡,單櫃級聯數千顆類腦芯片,釋放近100P@FP16算力,整機功耗控制在30kW以內。 依託自研LynxLink高速互聯協議以及統一內存地址編譯技術,產品既支持單機櫃算力提升(Scale up),也可以多機櫃橫向擴展(Scale out),打破單卡、單節點顯存和算力上限,適配不同體量大模型部署任務。設備採用風冷散熱方案,模塊化設計兼容現有智算中心機櫃、供電、網絡配套設施,大幅降低客戶部署改造成本。

剛剛
IT之家生成式AI

千里科技在 WAIC 公佈多項進展:階躍 Step AOS 將應用於汽車,年底推 ASD 5.0

首頁 > 智車之家>汽車新聞 千里科技在 WAIC 公佈多項進展:階躍 Step AOS 將應用於汽車,年底推 ASD 5.0 2026/7/19 22:18:48 來源:IT之家 作者:浩渺 責編:浩渺 評論: IT之家 7 月 19 日消息,在 2026 世界人工智能大會(WAIC 2026)舉辦期間,千里科技公佈多項項目進展。千里科技公佈了未來 ASD 4.

剛剛
鈦媒體生成式AI

蘋果AI入華,能成功嗎?

蘋果AI入華,能成功嗎?影子備忘錄2026.07.19 20:41 · 來自未知全文5214字00:00 / 14:18蘋果Siri AI,借殼重生。文 | 影子備忘錄2026年7月15日,“網信中國”微信公眾號發佈了一則公告,7款手機端側生成式人工智能服務完成備案。

剛剛

實習生,月入12萬

一則微博熱搜近日引爆話題:一位清華姚班學生曬出AI實習offer,每日薪資高達5500元人民幣,稅前計算。若按月工作22天估算,月薪輕鬆突破12萬元。這個數字讓不少網友直呼「待遇太恐怖」,但放在當前AI人才爭奪戰的背景下,卻只是冰山一角。 這份天價offer來自國內AI獨角獸DeepSeek。清華姚班是由圖靈獎得主姚期智院士於2005年創立的頂尖計算機科學菁英班級,每年僅招收數十人,可謂萬中選一。

2 小時前