360參與發起《智能體發展自律公約》,助力構建可信智能體生態

2026年11月4日 09:42
站內 AI 整理稿

11月4日,在2026年世界互聯網大會烏鎮峰會“智能體互信互聯互操作全球合作創新”論壇上,中國信息通信研究院、360、華為等企業及機構共同發佈《智能體發展自律公約》(以下簡稱《自律公約》)。360作為核心發起單位之一,深度參與了公約的起草與發佈。“智能體互信互聯互操作全球合作創新”論壇當前,智能體正從“單點應用”加速邁向“多智能體協同”。但智能體在跨平臺、跨系統交互時,其自身的權限越界、數據洩露、行為失控等安全隱患,成為阻礙其大規模落地的核心痛點。

為落實國家“強化行業自律”的任務部署,此次發佈的《自律公約》共提出八條自律措施,重點聚焦健全智能體信任體系、提升安全防護能力、健全治理機制等關鍵議題。《自律公約》第四條對智能體安全防護提出了明確要求,這與360近年來“以模治模”的技術路線相契合。公約提出要“健全前瞻性風險評估、運行監測、行為管控、異常熔斷等技術體系”。對此,360給出的解法是用AI來治理AI。目前,360已構築起“大模型安全”與“智能體安全”兩道防線,專門應對AI系統的內生風險與外部攻擊引發的越權操作和行為失控。特別是在智能體運行安全方面,360推出了專門的智能體安全防護與管理系統。

該系統覆蓋資產發現、行為管控、威脅檢測、事件響應和損失恢復等環節。在運行過程中,系統不僅能對智能體、技能插件進行識別管理,還能對文件訪問、命令執行等實施嚴格的“運行時管控”。結合安全大模型,系統可及時發現提示注入、惡意技能等風險,並支持異常事件的完整回溯與環境的快速恢復,讓智能體環境真正從“看得見”走向“管得住、可追溯、能恢復”。在具體的產品實踐上,360已將安全能力深度內嵌至應用層。

面向個人用戶,360推出的納米Work將智能體置於雲端隔離環境中運行,未經授權不接觸用戶本地數據,且異常時可即時重建隔離環境以控制風險;面向政企客戶,360打造的主權AI操作系統已在部分企業投用,使其在構建專屬智能體的同時,牢牢掌握數據、知識和安全治理的最終控制權,實現“安全的智能體”真正落地。業內人士指出,智能體的健康發展,基石在於安全與互信。360等企業的深度參與,將有助於推動《自律公約》從行業共識走向技術落地,為構建開放、可信、安全的智能體生態提供堅實底座。

Related

相關文章

用自家大模型造自己的“芯”:Anthropic 組建 15 人芯片設計團隊,Claude 助陣讓研發提速

在實際的內部測試與應用中,Anthropic 的工程師團隊發現,與英偉達、超威半導體(AMD)等傳統大型芯片設計企業的常規工作流程和耗時估算相比,藉助 Claude 模型進行輔助設計,能夠顯著縮短芯片整體設計所需的週期。這一探索不僅展示了大模型在底層硬件研發中的輔助潛力,也為整個人工智能行業通過 AI 提升芯片研發效率提供了全新的實踐樣本。

4 小時前6400
智東西生成式AI

17秒驗明AI“真身”!Anthropic開源可證明推理系統,能抓模型調包

編譯 | 孫小雯 編輯 | 程茜 11月4日消息,今天凌晨,Anthropic開源大模型可證明推理系統FlashProve,詳細技術報告於11月2日發佈。服務商可通過該系統為模型回答生成密碼學證明,用戶無需獲取模型權重或自行運行大模型,就能在CPU上核驗輸出是否符合指定模型的計算結果。

4 小時前

OpenAI 員工的"副業"硬件:GPT-6 Astra 一週出圖、一月出樣

據稱,兩名團隊成員利用業餘時間,不到一週就借 Astra 完成一款能與 Codex 交互的測試設備設計——模型一口氣包辦了外觀、外殼結構、電子元件選型、電路板佈局到固件生成,把原本需要多方協作的活兒收進一個對話窗口。代工廠隨後不到一個月便造出小批量原型機,從一張草圖到可把玩的真機,週期被壓到驚人地短。

4 小時前3600

給 AI 輸出蓋"數字指紋":Anthropic 研發 FlashProve 讓換模型無處遁形

公司週二博客稱,它要做的"可證明推理",是用密碼學為每條輸出出具數學保證,證明確實出自指定模型——就像加密郵件簽名幫收件人確認發件人,FlashProve 專門防備"把甲模型偽裝成乙模型"。堵住成本作弊暗門,也拆穿"注水"成績單研究人員點破長期潛規則:有了它,AI 公司難以為省成本在後臺偷偷把貴模型換成廉價版;反過來,企業也沒法暗中將便宜模型偽裝成高價型號、人為抬高跑分。

5 小時前7200