世界互聯網大會聚焦智能體安全,360作為核心成員單位持續推動AI安全治理

2026年11月3日 02:00
站內 AI 整理稿

11月2日,世界互聯網大會人工智能專業委員會2026年全體會議及第三次主任委員會議在浙江烏鎮召開。360集團首席科學家、高級副總裁潘劍鋒以人工智能專委會副主任委員身份出席會議。會議審議的2027年度工作計劃(草案)提出,專委會安全與治理推進計劃將進一步聚焦“智能體安全可控與協同治理”,推動AI安全治理進一步向智能體行為管控、治理能力建設和全球治理機制延伸。作為專委會成員單位,360在智能體安全領域的持續研究與實踐,與這一方向高度呼應。圖示人工智能專委會會議現場隨著AI從內容生成走向自主執行,智能體開始調用工具、訪問數據並自主完成任務,安全風險也從內容層面延伸到權限管理和行為管控。

圍繞這一變化,專委會計劃在2027年就智能體權限管理、自主決策與人類管控、多智能體協作安全、全週期安全管理等方向開展專題研討和聯合研究。圍繞這些議題,360持續參與專委會相關工作。2026年,專委會安全與治理推進計劃先後赴華為、360集團、阿里雲智能集團、百度等成員單位開展實地調研;7月,潘劍鋒在專委會舉辦的“前沿人工智能安全風險的協同治理”研討會上發表主旨演講。這些交流與研究,也建立在360長期的技術實踐基礎之上。針對智能體安全,360以“以模治模、以智能體對抗智能體”為防護思路,推出360智能體安全防護與管理系統。

該系統覆蓋智能體資產發現、行為管控、威脅檢測、事件響應和損失恢復等關鍵環節,可對智能體、技能插件及模型鏈路進行識別管理,並對文件訪問、網絡連接、命令執行等行為實施運行時管控,幫助企業把智能體運行過程納入安全管理。據悉,智能體安全只是360 AI安全體系的一部分。在更廣的AI安全領域,360還佈局了大模型安全、AI應用治理等重點方向。其中,自研的AI安全攻防系統“圖龍鋒”通過中國信通院“互聯網智能體治理——漏洞挖掘智能體能力評估”,成為首個通過該項評估的產品;同時,360參與多項AI安全國家標準和行業標準研製,形成從產品到標準的完整能力支撐。

隨著智能體從“能回答問題”走向“能執行任務”,AI安全治理正從原則討論走向對權限、行為和執行過程的具體管理,治理重心也從“管內容”轉向“管行為”。360將結合自身在人工智能與數字安全領域的積累,持續探索智能體安全可控的技術路徑,為行業治理提供實踐參考。

Related

相關文章

智東西生成式AI

英特爾與騰訊發佈基於至強6+的雲實例,曬智能體AI基礎設施全家桶

作者 | ZeR0 編輯 | 漠影 11月3日報道,近日,在2026騰訊全球數字生態大會上,英特爾與騰訊雲發佈基於英特爾至強6+處理器的騰訊雲新一代雲實例,並全面展示英特爾的芯片產品與雲端實踐。 全新至強6+處理器擁有最高288顆能效核,單顆處理器最高可支持超過1000個智能體的穩定部署,這也為騰訊雲服務器提供更高併發、更低時延、更優能效的雲端算力服務。

1 小時前
雷峰網生成式AI

智元榮獲2026世界互聯網大會傑出貢獻獎

11月3日,2026年世界互聯網大會烏鎮峰會在浙江烏鎮隆重開幕,國務院總理李強出席開幕式並發表主旨演講。開幕式上,智元憑藉在具身智能領域的系統性技術突破與產業化實踐,獲頒世界互聯網大會傑出貢獻獎。智元合夥人、高級副總裁朱潔在領獎時表示:人工智能的終局,不在於屏幕與雲端,而紮根於工廠一線和尋常煙火。具身智能賽道的競爭,早已跳出單點技術的競速,轉向軟硬協同、工程化落地、產業組織與治理體系的綜合比拼。智元期待與各界同心同行,堅守務實,躬身落地。

1 小時前

電動車退燒、AI 儲能燒起來:LG 新能源把產能挪向數據中心

11 月 3 日,首席財務官李昌植在財報電話會上給出時間表:今年底軟包儲能系統(ESS)產能將超 50 吉瓦時,明年進一步拉到 70 GWh 以上。在他看來,電動車增速放緩之際,AI 數據中心的大規模新建為電池廠撕開了新口子——第三季度 ESS 在手訂單已達 160 GWh,公司正與電力企業、超大型數據中心運營商談新項目,今年 9 月還作為儲能供應商擠進了英偉達的 DSX Ready 計劃。

2 小時前4700
雷峰網生成式AI

最高288核的至強6+,為了Agent高密度部署還下了哪些「雲功夫」?

作者 | 陳悅琳編輯 | 包永剛 一個智能體能順利完成任務,不代表成百上千個智能體就能同時高效運行。 對於承載大量智能體任務的雲服務器而言,除了提升計算速度,如何在任務集中到來時迅速準備好執行環境、怎樣減少暫時閒置的任務對內存資源的佔用,也成為亟待解決的問題。 對此,在一年一度的騰訊全球數字生態大會上,英特爾與騰訊雲聯合發佈了基於至強6+處理器的新一代雲實例,圍繞任務啟動效率、內存資源利用率等關鍵因素進行優化後,其綜合性能較上一代提升30%以上。

2 小時前

聯合國副秘書長點贊!千問AI耳夾式耳機亮相烏鎮互聯網大會

他認為,產品非常實用,適合自己日常工作中需要使用多國語言進行交流的場景。面對面交流時,用戶可以通過耳機收聽譯文;會議中的討論內容,也能通過AI聽記整理為結構化紀要,方便會後回顧。連接千問App後,用戶還可通過語音交辦資料研究等任務、接收完成提醒,讓耳機成為日常辦公的隨身助手。

3 小時前