Agent ,第一次有了進入企業核心系統的“硬要求”

2026年7月7日 21:05
Agent ,第一次有了進入企業核心系統的“硬要求”

重點摘要

AI代理首次被要求直接進入企業核心系統,如財務與供應鏈管理,從建議者轉變為必須具備可靠、可追溯的執行能力。新興代理框架與標準化介面正逐步克服整合與責任歸屬障礙,但同時也對安全控制與異常處理機制帶來嚴峻考驗。

站內 AI 整理稿

AI 代理(Agent)正從過去僅處理客服、文書等周邊輔助任務,開始跨入企業最核心的關鍵系統——而這項演進,伴隨而來的是業界首度對其提出的「硬要求」。過去企業導入 AI,多半停留在推薦、建議層面,系統本身不具備直接下指令或執行交易的權限;但現在,隨著自動化與智慧化需求的急遽升溫,代理技術必須承擔更高風險的營運工作,例如直接操作財務系統、調整供應鏈參數,甚至介入生產排程決策。這代表 Agent 不再只是扮演「建議者」的角色,而是必須成為一個可靠、可追溯、且完全符合法規與內部控制的執行者。 這波轉變之所以被視為分水嶺,關鍵在於 AI 落地過程中最棘手的幾道難題,正在被系統性地一一攻克。長期以來,企業高層導入 AI 的最大猶豫來自三個層面:模型輸出的不穩定性與不可預測性、與既有老舊系統的整合困難,以及缺乏明確的責任歸屬機制。當 AI 只負責「給建議」時,出錯了還可以歸責給人類決策者;但一旦 Agent 開始自動執行交易或修改產能配置,任何失誤都可能直接衝擊營運與財務,因此企業對其準確度、可靠度與可審計性的要求,必須比以往更加嚴格。 如今,新興的代理框架與標準化介面正逐步填補這些缺口。這些框架讓 Agent 能夠透過定義明確的 API 或協定,與企業內部的核心資料庫、ERP 系統、流程引擎進行安全且可控的互動。不再是過去那種「黑箱呼叫」或透過人工複製貼上的方式,而是以結構化的指令、權限分級、日誌記錄來規範每一次執行行為。這種設計不僅降低了整合的技術門檻,也讓 AI 的「行為」可以被稽核與復盤,從而滿足金融、製造、醫療等高度監管產業的法規需求。 業界普遍認為,這波變革將徹底改寫企業數位轉型的節奏。過去,數位轉型常被批評為「錦上添花」,AI 應用多半停留在降低客服成本或加速文書處理;現在,當 Agent 真正有能力直接驅動核心業務流程,企業便能從根本改變營運效率。例如,在供應鏈管理中,Agent 可以根據即時庫存、物流延誤與需求預測,自動調整採購訂單與產線排程;在財務領域,它能比對合約條款與付款條件,自動觸發應付帳款流程,並留下完整的稽核軌跡。這些應用場景過去只能靠大量人工與漫長的跨部門協調來完成,如今被濃縮成一段可重複執行的代理邏輯。 然而,權力越大,風險也越大。Agent 進入核心系統之後,安全控制與異常處理機制將面臨前所未有的考驗。任何一個未經妥善驗證的輸入,或是模型在邊界案例下的錯誤輸出,都可能直接造成金流錯誤、生產中斷或合規漏洞。因此,業界開始要求 Agent 必須具備「防呆」設計:包含輸出範圍檢查、多重簽核節點、自動熔斷機制,以及當系統偵測到異常行為時的緊急停止與人工接管流程。這些硬要求,正是過去單純的對話機器人或文件處理工具從來不需要考慮的。 從技術發展的角度來看,這也促使代理框架的設計更加重視可解釋性與可追溯性。企業不僅要知道 Agent 做了什麼,還要能清楚還原它「為什麼」做出某個決策——是根據哪一筆資料、哪一條規則、哪一次模型輸出。換句話說,Agent 的「思考鏈」必須被完整記錄,並且能通過內部稽核與外部監管的檢驗。這對大型語言模型的推理架構與日誌系統都提出了新層次的要求。 值得注意的是,這股趨勢並非天外飛來一筆,而是企業 AI 成熟度自然演進的結果。過去兩年,許多大型企業已經在非關鍵領域反覆驗證 Agent 的穩定性與效益,才逐步放行讓它接觸更有價值的系統。而標準化介面(如 MCP、A2A 等新興協定)的出現,則大幅降低了 Agent 與異質系統對接的技術成本,讓中小型企業也有機會導入類似的架構。可以預見,未來幾年內,「能直接操作核心系統」將成為企業級 Agent 產品的基本配備,而非特殊賣點。 最後,專家也提醒,硬要求的確立並不代表 Agent 從此萬無一失。企業在導入時仍需建立分階段上線、影子模式比對、人機協作等配套策略。核心系統的自動化從來不是一次性的技術導入,而是營運邏輯、風險管理與 AI 能力三方不斷調適的過程。但可以肯定的是,Agent 第一次真正站上了企業營運的主舞台,而這一次,它不再只是建議者——它必須承擔起執行的重任。

Related

相關文章

IT之家AI Agent

英國央行:人工智能給金融穩定帶來的風險日益增加

英國央行表示,人工智能正對金融穩定構成日益嚴峻的威脅,包括投資者大舉押注AI以及銀行更易遭受網絡攻擊。報告指出,市場對AI前景的重新評估可能引發股價下跌,且相關企業借貸透明度不足,一旦風險爆發將加劇危機。央行強調現有監管框架未考慮自主智能體,有必要推出專門針對AI的監管規則。

剛剛
IT之家AI Agent

澳大利亞官員警告:AI 模型已經開始作弊、欺騙、擅自行事

首頁 > 智能時代>人工智能 澳大利亞官員警告:AI 模型已經開始作弊、欺騙、擅自行事 2026/7/7 14:42:39 來源:IT之家 作者:清源 責編:清源 評論: IT之家 7 月 7 日消息,據英國《衛報》今天(7 日)報道,澳大利亞技術和數字經濟助理部長安德魯 · 查爾頓警告,AI 模型已經出現作弊、欺騙和擅自行事等行為。查爾頓在悉尼一場 AI 安全論壇上呼籲,AI 安全問題已經不容拖延。“AI 系統已經開始做出開發者從未預料的行為:作弊、欺騙、擅自行事。必須趁這些行為還停留在測試實驗室時提前幹預,不能等到進入現實世界後再處理。”查爾頓指出,公眾對 AI 的信任度仍然很低,AI 獲得社會認可的基礎並不穩固,但 AI 已逐漸成為辦公室、課堂和企業都能使用的通用技術。合理的安全監管不會阻礙 AI 發展,反而可以為技術應用創造條件。據IT之家瞭解,澳大利亞的 AI 安全治理將同時關注兩類技術。一類是已經進入遊戲、應用程序、聊天機器人和醫療記錄工具的現有 AI,另一類是能力更強、未來可能帶來新風險的前沿模型。查爾頓以 Anthropic 去年披露的一次模擬測試為例。測試中,一個管理虛構公司電子郵件的 AI 智能體發現掌握了公司高管婚外情的信息,隨後該高管準備將其關閉。在 96% 的試驗中,AI 智能體選擇以婚外情要挾高管,試圖阻止自己被關閉的命運。查爾頓表示,此類行為目前仍是在測試環境中,由專門尋找安全問題的人員發現的,恰恰說明 AI 安全監管必須儘早建立。“趕在這項技術前面採取行動的窗口仍然存在,但不會永遠存在。”查爾頓還提到,人類從小就要學習如何與規則、社會規範和價值觀保持一致,從而安全、負責任地行動,例如紅燈要停車、過馬路前要左右看,以及考慮自身行為會給他人造成什麼影響。“隨著 AI 系統能力不斷增強,我們也必須確信,AI 能夠以同樣可預測、值得信賴的方式行事。”

39 分鐘前

"龍蝦"為什麼這麼火?OpenClaw登頂GitHub後,AI Agent時代真的來了?

賬號設置我的關注我的收藏申請的報道退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機。

47 分鐘前
量子位AI Agent

讓Skill“有圖可依”:openJiuwen首發多模態Skill範式Skill-Omni

openJiuwen 發布業界首個多模態 Skill 範式 Skill-Omni,可從網頁與影片中自動提取視覺經驗,轉換為 Agent 可複用的多模態 Skill,解決純文字指令在圖像編輯與 GUI 自動化任務中「說不清、看不見」的痛點。該功能已在 JiuwenSwarm 中開箱可用,並採用按需讀取機制避免上下文負擔。

2 小時前
智東西AI Agent

AI高端對話:智能體“涼了”?熱的是概念,冷下來才是產業

一場名為「AI高端對話」的產業討論中,多位業界專家針對近期智能體(AI Agent)的發展動態提出觀察。與會者普遍認為,雖然市場上對智能體概念的狂熱一度達到高峰,但隨著技術驗證與商業化進程的推進,實際落地情況並不如預期火熱,「智能體涼了」的說法開始在圈內流傳。然而,討論中更清晰的共識是:概念的熱度退潮,反而是產業真正起步的契機。

5 小時前

AI PPT生成不止“一鍵出稿”:清華、上交、北郵提出MemSlides,讓Slides Agent學會記憶

AI 生成 PPT 早已不是新鮮事,但真實的創作場景往往比「一鍵出稿」複雜得多。使用者拿到第一版投影片後,通常會反覆調整頁面順序、內容密度、視覺風格,甚至在不同輪次的修改中才逐漸透露自己的偏好。這對 AI 系統來說是個不小的挑戰:它不僅要理解當下的指令,還要區分哪些偏好屬於使用者的長期習慣,哪些只是針對當前任務的臨時要求,更要避免在修改某一區域時牽動其他已經對齊的內容。換句話說,AI PPT 工具能否真正勝任多輪協作,關鍵在於它是否具備有效的記憶能力。

5 小時前