螞蟻陳亮:能力決定AI能做什麼,可信決定社會敢把什麼交給AI
隨著AI從回答問題走向調用工具、連接服務、完成任務,甚至參與交易,安全正在從模型外圍的一道防線,成為AI進入真實經濟活動的基礎設施。在外灘大會媒體群訪中,螞蟻大安全CTO陳亮表示,AI新經濟能否真正走向規模化,不只取決於模型能力,更取決於人們是否敢把真實任務交給AI。圖注:螞蟻大安全CTO陳亮 “安全不是AI規模化之後才補的課,而是AI走向規模化之前必須先修的基礎課。” 陳亮認為,能力決定AI能做什麼,可信決定社會敢把什麼交給AI。
當Agent開始代表用戶調用服務、操作設備和執行交易,行業需要回答的不再只是“AI聰不聰明”,還包括它是否理解人的真實意圖、是否在授權範圍內行動、過程是否可控、結果是否能夠追溯。從支付寶到AI 螞蟻持續建設信任能力 陳亮表示,螞蟻在移動互聯網時代構建的絕大部分安全能力,在Agent時代仍然適用。變化在於,過去安全能力主要直接面向用戶,現在用戶與業務之間多了智能體這一層。“我們是在原有能力之上,構建智能體互聯網時代的安全能力,更好地服務用戶和智能體。” 用戶不在場、委託邊界變寬,是這輪升級的核心變量。
過去的代扣協議通常範圍清晰;Agent可以根據一句自然語言自主規劃、調用工具並執行任務,用戶的表達也可能存在模糊空間。金額異常可以直接攔截,但“想買美式卻買成拿鐵”這類意圖偏差,需要系統同時核驗用戶的原始意圖、智能體的理解和最終交易結果。因此,螞蟻將智能體安全理解為一條端到端鏈路:從手機、眼鏡、耳機等終端入口發起,到Agent的身份、權限、行為和運行環境,再到交易風控、事後審計與責任追溯。支付寶時代的能力到了Agen+時代,安全的邊界和複雜度都被顯著拓寬。
靈影與ASL 打通智能終端與Agent的可信連接 互聯網經濟真正興起之前,經歷了雲計算、數據庫、網絡、支付和身份認證等基礎設施逐步成熟的過程。AI新經濟也在經歷類似階段。算力和模型讓AI擁有“大腦”,但要進入真實世界,它還需要連接服務的“手腳”、參與交易的“錢包”、確認主體與權限的“身份證”,以及約束行為邊界的安全和風控規則。螞蟻集團終端安全負責人萬小飛表示,終端正在同時發生兩重變化:硬件從手機走向眼鏡、耳機等泛終端,軟件入口從APP轉向Agent。過去相對封閉的“APP+雲服務”邊界被打破,安全需要進入終端系統、芯片和供應鏈的設計階段。
基於這一變化,GPASS品牌升級為“靈影”,GOS同步升級為“靈影AOS”,從單項終端安全能力進一步走向智能終端底層基礎設施。靈影將可信執行、數據保護和運行環境安全等能力沉到終端和操作系統層,並與終端廠商、供應鏈夥伴協作,把安全內置到手機、AI眼鏡、耳機及更多智能設備的設計中。它要解決的是Agent在終端上如何獲得穩定、可控的運行環境,讓安全成為系統能力,而不是應用上線後的附加環節。當任務需要跨越多個Agent、設備和企業,單個終端可信還不夠。
萬小飛介紹,ASL(智能體安全可信互聯協議)聚焦智能體之間的安全協作:它不替代A2A等用於發現和交互的協議,而是補上可信連接這一層,圍繞身份可信、意圖可信和數據可信,明確兩個智能體真正發生業務往來時如何驗證對方、傳遞授權並約束操作。據介紹,ASL約一年半前從標準倡議起步,隨後逐步形成協議並實現產品化,採用開放、兼容的生態策略。目前,已在1688電商採購等跨平臺智能體場景落地,並在支付寶內部業務中使用,用於支付寶智能體與廠商系統助手之間的可信連接。未來,它還將與移動終端、可穿戴設備等底層系統結合,讓不同主體能夠在共同的安全規則下協作。
從智能體到交易 讓安全貫穿AI行動全程 螞蟻集團智能體安全負責人朱傳群表示,Agent具備自主規劃、工具調用和持續執行能力後,風險已從模型輸出延伸到真實的數字世界,未來還可能進一步影響物理世界。Agent需要獨立的身份和權限體系;其調用的工具、Skills、MCP服務和記憶也可能被投毒,導致執行動作偏離用戶的原始意圖。因此,安全治理需要覆蓋身份、權限、供應鏈、運行環境、執行行為和審計定責。具體管控上,可以根據Agent能夠訪問的數據敏感度和執行動作的危害程度進行風險分級。低風險、低敏感操作可以保持較高的自主性;涉及高敏數據或高危動作時,則需要人工確認,部分操作應直接禁止。
這樣的差異化控制,既給Agent留下完成任務的空間,也避免把高風險權限一次性交給它。大會期間啟動的《智能體身份鑑別與授權技術框架》和《智能體運行時安全技術要求》兩項團體標準,也對應了這兩個關鍵環節:前者強調Agent應擁有獨立身份,並規範身份核發、終端綁定與授權管理;後者關注沙箱隔離、運行時護欄,以及意圖與動作執行節點的動態管控,為企業部署智能體提供可參考的安全框架。螞蟻集團風控安全負責人陳鑼斌表示,面向Agent,風控需要新增兩類能力:一是在眼鏡、耳機、手錶等泛終端上建立更原生的身份核驗手段;二是在交易發生前後持續校驗用戶意圖和授權。
系統不僅要判斷單筆交易是否異常,還要識別Agent所處的環境、還原多級委託鏈路,並將用戶的原始意圖與最終業務行為進行比對,把防護延伸到事前約束、事中判斷和事後追溯。陳亮總結,螞蟻更強調從端到端理解智能體安全:起點可以是手機、眼鏡或耳機,之後經過Agent行為、工具調用和運行環境,最終進入交易、支付以及糾紛處理。終端安全、智能體安全和風控安全分別守住鏈路中的關鍵環節,共同回答用戶和商家能否放心讓Agent辦事。從支付寶時代保障每一筆交易,到AI時代保障Agent的每一次決策與行動,螞蟻持續解決的是同一個問題:如何讓信任支撐新技術進入真實經濟活動。
過去安全能力主要面向人和賬戶,如今還要理解Agent的身份、意圖、授權和行為,並讓這些信息在跨終端、跨平臺的協作中可信傳遞。陳亮表示,智能體技術仍在快速發展,企業在具體落地上會有差異,但對身份、權限、運行時安全和責任追溯等核心問題已有較多共識。AI新經濟的安全基礎設施需要標準機構、產業夥伴、平臺和開發者共同建設,通過標準、產品和真實場景持續驗證,讓安全從企業能力逐步成為產業可以共同使用的能力。“能力決定AI能做什麼,可信決定社會敢把什麼交給AI。”
Related
相關文章

長安汽車首席專家譚歡:未來要用機器人造車、賣車,讓機器人上車、造機器人
作者:清源 責編:清源 評論: 9 月 18 日消息,在今天(18 日)的第 22 屆中國汽車產業發展(泰達)國際論壇“新賽道生態專場:具身智能新賽道”活動中,長安汽車首席專家、長安天樞智能機器人公司總經理譚歡在演講中指出,AI 正推動以物理具身智能為核心的基礎設施革新,汽車未來形態是“汽車機器人”—— 自學習、自組織、自進化的組合智能體。

具身智能技術路線尚未定型,基礎設施卻先收斂
具身智能技術路線尚未成形,但基礎設施需求已開始收斂,重點從製造機器人轉向持續迭代機器人能力。百度集團沈抖指出,智能體能力邊界快速擴展,進入規模化部署階段,但機器人學習新任務與跨環境適應性仍待突破。

88小時抵一個人思考4000年,OpenAI核心研究員:除了自我進化,更可怕的是AI正學會“隱藏自己”
AI正在把4000年的人類認知勞動壓縮進88小時,OpenAI研究員Noam Brown坦言連他自己也被進展速度持續震驚。AI正在把過去需要數千年完成的認知勞動壓縮到數天。真正的問題已經不只是模型能否變得更聰明,而是實驗能否跟上、人類能否在模型繼續自我改進前確認它仍然安全。
Agent辦事、花式P圖、動嘴玩電腦……實測Wildcat Lake輕薄本玩AI有多爽
作者 | ZeR0 編輯 | 漠影 桂林依山傍水,連城市的輪廓,都是一座座山勾勒出來的。抬眼一望,便是翰墨丹青般的自然光景,既沉靜婉約,又意境悠遠。這種乾淨的留白之美,早已被古人融入山水畫藝中,幾筆山石,一帶煙雲,餘下的留給水色,也留給看畫的人。 淨,並非空無一物,而是通過剋制的取捨,讓真正重要的東西凸顯出來。這與今年推出的第三代英特爾酷睿處理器(代號Wildcat Lake)的設計理念不謀而合。

吳恩達回應AI末日論:別被科幻敘事帶偏,應解決現實工程問題
吳恩達曾參與創辦Google Brain和Coursera。吳恩達稱,科技行業早期曾放大AI潛在災難性風險,以獲取關注並影響監管方向;近兩週相關討論再次升溫,也可能存在類似動機。他認為AI確實存在現實風險,尤其包括網絡安全等領域,但不認同將人類滅絕風險作為當前AI發展的核心判斷依據。

智譜 GLM-5.3-FlashX 模型上線,更快、更流暢
作者:汪淼 責編:汪淼 評論: 感謝網友 Agent 的線索投遞!9 月 18 日消息,智譜今日宣佈推出 GLM-5.3-FlashX(最高 200 tokens/s),為企業與開發者帶來更快、更流暢的模型體驗。智譜官方表示,GLM-5.3-Flash 此前以“Ox Alpha”之名與全球開發者見面,獲得海內外開發者的廣泛認可,調用量持續攀升。