9秒刪庫，700個AI失控，豪擲513億買不來安全？

新質動能2026.10.05 08:50 · 來自北京全文4144字00:00 / 12:04AI從工具變成同事，安全就從選項變成前提。文 | 新質動能過去幾年，企業談AI安全，大多數時候指的是內容安全：過濾有害輸出、防止數據洩露、滿足合規備案。但2026年發生的一件事，把這個議題推向了另一個維度：AI智能體在真實環境中做出的行為，正在成為安全的主戰場。2026年4月，美國得州SaaS公司PocketOS的一名工程師讓編碼智能體處理測試環境中的憑據問題。智能體沒有等待人工處理，而是自行找到權限過大的API Token，調用接口刪除存儲卷。9秒後，公司生產數據庫和備份一併消失。

沒有黑客入侵，沒有病毒，只有一個被賦予真實權限的AI智能體。幾個月後，一個更極端的版本出現在OpenAI內部。2026年7月，GPT-5.6 Sol等模型在一次網絡安全基準測試中突破隔離環境，入侵了AI開源平臺Hugging Face的生產系統。約700個智能體組成協作集群，搭建了未經授權的內部留言板，交換了超過7萬條消息。為了弄清它們究竟做了什麼，OpenAI投入約300萬GPU小時分析超過70億條日誌。當AI從“回答問題”走向“執行任務”，安全問題的性質已經徹底改變。來源：央視網AI安全市場正進入爆發期數據印證了這一轉變。

據IDC預測，中國網絡安全相關AI Agent應用收入的複合增速將高達106.5%，2030年達到593.5億元，是AI安全本身規模的近兩倍。浙商證券指出，當攻擊者開始用AI Agent自動化發起釣魚、漏洞利用和橫向移動，防守方也必須用Agent對抗Agent，安全運營正從人工驅動轉向智能體驅動。企業端的準備程度遠未跟上。據AvePoint《State of AI 2026》報告，89.5%的組織在過去一年遭遇過生成式AI相關安全事件，88.4%遭遇過AI智能體相關事件。

世界經濟論壇《2026年全球網絡安全展望》顯示，94%的受訪者認為AI將是2026年網絡安全變化的最重要驅動因素，87%認為相關漏洞有所增加。中國工程院院士吳世忠在西湖論劍大會上表示，系統的內生風險已經超越外延攻擊：“現在最大的危險不再僅僅是黑客入侵，可能還有算法本身的不可解釋性、偏見、幻覺以及被誘導後的越權執行。”據Gartner數據，2025年全球AI安全市場支出為259.2億美元，2026年攀升至513.47億美元，同比增幅接近98.1%，遠超全球AI整體47%的年度增長率。

Gartner預測，專門保護AI系統的Securing AI市場2027年將接近48億美元，2026至2027年同比增速達68.7%，連續多年保持在65%以上的高增長區間，遠高於傳統網絡安全10%左右的增速。中國方面，據IDC預測，人工智能安全收入將從2025年的44.1億元增長至2030年的340.3億元，五年複合增速約50.5%。作為對照，中國網絡安全整體市場2024至2029年複合增速僅約8.9%，2026年整體規模約800億元。AI Agent安全賽道增速更為突出。據Technavio預測，全球AI Agent安全與身份管理平臺市場2025至2030年間將增長約59.

6億美元，複合年增長率達19.8%。另據Technavio另一份報告，面向自主AI系統的網絡安全解決方案市場同期複合年增長率為38.5%，增長規模為28.8億美元。一級市場反應直接。AI安全初創公司HiddenLayer完成1億美元B輪融資，由Delta-v Capital領投，微軟旗下M12、摩根士丹利等參投，過去一年年度經常性收入增長超過10倍，超過90%的增長來自新客戶簽約。Obsidian Security於8月完成8500萬美元D輪融資，估值達11億美元。

Cyera於9月從高盛獲得4億美元G輪擴展融資，估值超過120億美元，並以10億美元收購專注非人類身份安全的Oasis Security。Cyera聯合創始人約塔姆·塞格夫直言：“AI基礎設施的發展速度已經超過了圍繞其構建的安全架構。”AI賦能安全與AI原生安全形成雙輪驅動產業界，AI安全正分化為兩條路徑。一條是AI賦能安全，即用大模型重構傳統安全能力。天融信、深信服等傳統安全廠商走這條路，將大模型作為效率工具，重構日誌分析、威脅情報關聯、漏洞自動修復等流程。

據浙商證券研報，IDC數據顯示2025年中國基於大模型的安全運營平臺市場規模達15億元，同比增長144%，61%的中國企業計劃在未來1至3年內採購安全大模型產品和服務。天融信2026年上半年AI安全防護業務收入同比增長超過130%，AI賦能安全業務直接收入超過8000萬元。綠盟科技上半年AI安全相關訂單額達1.17億元，運營商行業簽單同比增長超300%。啟明星辰大模型應用防火牆收入同比增長238.15%。來源：證券之星另一條是AI原生安全，即為AI系統本身設計安全機制。CrowdStrike在2027財年第二財季實現營收14.7億美元，同比增長26%，年度經常性收入達58.

4億美元，單季新增ARR高達3.33億美元，刷新歷史新高。公司首席執行官喬治·庫爾茨表示，企業AI採用正在成為網絡安全支出的持久驅動力。Okta於7月簽署協議收購Permiso Security，將雲原生身份威脅檢測納入其安全平臺。NVIDIA聯合Cisco、JFrog等企業提出圍繞AI Agent全棧安全的工程化框架，並開源OpenShell運行時，在智能體觸及範圍之外強制執行策略。OWASP在2026年網絡安全趨勢觀察中總結：“安全產品正從‘用AI提效’走向‘為AI設防’。

”安全預算增速，仍遠低於AI能力滲透速度2026年9月14日，全國網絡安全標準化技術委員會發布《人工智能安全治理框架3.0》，延續風險分類、技術應對、綜合治理的核心邏輯，治理視角從單一技術環節拓展到數據、算法、模型、應用、供應鏈等全過程。3.0版本特別提到強化開源生態安全、供應鏈安全管理，明確了禁止性行為，劃出紅線。隨後，《電信和互聯網生成式人工智能服務安全分級指南》團體標準宣佈將於10月8日起正式實施，成為電信和互聯網行業首部專門面向生成式AI服務安全分級的標準。國際層面，歐盟AI法案已於2026年8月2日進入可執行階段，歐盟AI辦公室獲得對通用AI模型提供商的正式調查和執法權力。

NIST於2026年2月17日正式啟動AI Agent Standards Initiative，圍繞智能體安全與身份、行業標準制定、開源協議開發三個支柱推進。中美歐三條治理路徑的差異也愈發清晰：美國關注前沿能力、以行業自律為主；歐盟強調風險分級、建立強制性合規框架；中國以統籌發展和安全為主線，通過備案、分類分級和內容標識落地。矛盾浮出水面：AI安全的預算增長速度，遠遠趕不上AI能力滲透的速度。據Gartner預測，2026年全球AI總支出將達到2.52萬億美元，其中AI軟件支出約4525億美元，AI網絡安全支出為513.5億美元。

AI安全支出在AI軟件支出中的佔比約為11%，在AI總支出中的佔比則更低。Gartner同時指出，AI軟件支出是用於保護AI本身的安全支出的約9倍。即便是這極其有限的安全預算，絕大部分也並沒有投向真正代表未來方向的Agent行為與系統防護，而是被傳統安全廠商的智能化包裝和基礎的內容合規拿走了。奇安信集團董事長齊向東在2026中國國際軟件博覽會上提出，智能體部署要“把智能體畫在圈裡，管好‘手腳’”。他提出部署圈、連接圈、權限圈、數據圈、審計圈五個圈的概念，並以智能體安全管理平臺為大腦、以AI安全網關為中樞，形成發現、研判、定位、處置、優化的完整閉環。

“智能體是當前提高生產力的最強引擎，數字員工將成為企業骨幹。”齊向東說，“但智能體重構軟件，安全是一道‘必答題’。”這道必答題的答案，正在被2026年的市場、政策和產業實踐共同書寫。但當Gartner的調查顯示僅有約三分之一的企業擁有明確的AI治理結構、且其中多數僅部分遵守自身規則時，當AI軟件支出仍是AI安全支出的約9倍時，這個答案遠未完成。當AI系統從“工具”走向“同事”，安全不再是一個可以事後補上的選項，而是決定這場技術變革能否持續的前提條件。

信息來源說明：數據來源：Gartner、IDC、Technavio、AvePoint、世界經濟論壇、浙商證券、天融信、綠盟科技、啟明星辰、CrowdStrike、Okta、NVIDIA、OWASP、NIST、全國網絡安全標準化技術委員會、歐盟AI法案研報來源：Gartner，《Worldwide AI Spending by Market, 2025-2027》，2026年9月IDC，《中國人工智能安全支出市場預測，2026-2030》Technavio，《AI Agent安全與身份管理平臺市場報告》，2026年5月浙商證券，《AI安全行業點評》，2026年9月22日報道來源：央視網，OpenAI模型失控入侵事件報道，2026年9月澎湃新聞，PocketOS智能體刪庫事件報道，2026年5月11日證券之星，天融信AI安全業務圖表，2026年8月31日公開報道，OpenAI與Hugging Face入侵事件，2026年8月26日公開報道，HiddenLayer、Obsidian Security、Cyera融資與收購，2026年6-9月其他來源：吳世忠，西湖論劍大會發言，2026年9月齊向東，2026中國國際軟件博覽會發言，2026年喬治·庫爾茨，CrowdStrike財報電話會議發言，2026年8月