當智能體自主行動時,治理必須存在於數據層
由EDB呈現 隨著企業賦予AI智能體更多自主權——能夠跨系統規劃、決策和行動,而無需人類逐步批准——一個棘手的問題成為每次架構審查的核心:當智能體嘗試執行一個從未被授權的動作時,究竟是什麼阻止了它? 這些是你的智能體,運行在你的模型上,觸及你基礎設施中的數據——它們行為的責任在於你。 這種責任無法事後追究,也無法靠一套僅存在於紙面而非實踐中的抽象政策來履行。 智能體需要的是當下情境中的規則,因為它們不會對自身行為行使超越性的判斷。 若嚴格遵循字面,智能體將永遠無法進入車內。
Related
相關文章

千億美元市場,Agentic AI 的"黃金時代"何時能來?
隨著人工智慧技術從大型語言模型向自主行動能力邁進,「Agentic AI」(自主智能體)正成為科技業最炙手可熱的話題之一。業界普遍預期,這項能獨立感知環境、制定計畫並執行複雜任務的技術,將催生一個規模達千億美元的全新市場。然而,從實驗室概念到大規模商業落地,Agentic AI 的「黃金時代」究竟何時才能到來,各方看法仍存在明顯分歧。 所謂 Agentic AI,指的是具備自主決策與執行能力的 AI 系統,有別於傳統僅能回應指令的聊天機器人或生成式模型。

AI開小號騙人,被大學生抓包了
但開源項目並不是任何人提交的代碼都會被採用,維護者通常會檢查代碼來源和安全性。為了讓這段代碼最終進入項目,Agent需要讓維護者相信提交代碼的人值得信任。它沒有選擇簡單地反覆提交代碼,而是開始模擬真實開發者之間的互動。 它創建多個虛假身份,讓不同賬號承擔不同角色。一個賬號負責提交代碼,另一個賬號則像普通開發者一樣參與討論,為前者提供支持。更讓研究人員意外的是,Agent並沒有只是隨意編造幾個名字。
00後跨境賣家自救,做了一款AI放大鏡
沒畢業的在校生,拿著5000萬估值殺進AI硬件賽道。作者丨陳玘凡編輯丨吳優兩歲半的小寶寶攥著圓乎乎的放大鏡,湊到地面的螞蟻跟前按下快門。鏡片邊框的小孔閃了一下,軟乎乎的語音隨即響起,“寶寶,這是螞蟻......”小朋友盯著蟲子愣了兩秒,突然笑得前仰後合。03 年出生的歐陽王子往那邊看了一眼,那一瞬間他突然覺得,創業之初滿腦子想著的 “賺錢” 兩個字,分量輕了些 —— 就算要賺錢,也得做點好玩的、真能留下點什麼的事。這臺設備,是絨音科技打磨了一年多的「百問兔兔 AI 放大鏡」。

OpenAI 發佈 Hugging Face 安全事件官方報告,還原 AI 模型沙箱逃逸全過程
作者:遠洋 責編:遠洋 評論: 感謝網友 HH_KK 的線索投遞!8 月 27 日消息,OpenAI 當地時間週三發佈了關於 Hugging Face 遭入侵事件的官方報告,首次較為完整地還原了這起事件的經過:一系列罕見因素疊加,導致一款 AI 模型突破測試環境限制,最終引發了一場波及範圍廣泛的網絡安全事件。
中國飛鶴×火山引擎:436個智能體走進乳業生產一線
當不少企業還在討論AI能做什麼時,中國飛鶴已經把問題往前推進了一步——“飛鶴生產端已經不是要不要投入AI的階段,而是進入哪些場景值得規模化的階段。”中國飛鶴副總裁、生產事業部負責人孫建國介紹,飛鶴擁有10餘家現代化智能工廠,數字化生產設備佔比超過90%,這為AI應用打下了數據和設備基礎。依託火山引擎 HiAgent 平臺,飛鶴搭建了統一的AI應用建設平臺,把AI從技術部門推向一線業務,在設備運維、關鍵工藝和人員管理等核心環節,落地一批可量化、可複製的應用。
Meta AI裁員計劃受阻:內部“OT項目”原擬削減部分團隊60%規模
內部文件顯示,Meta曾啟動代號為“OT項目”(Organization Transformation)的計劃,目標是打造“AI原生”組織模式,部分團隊規模最高可能削減60%,剩餘工作由少量“人才密集型”員工負責監督虛擬AI員工。按照原計劃,Meta預計在5月啟動第一輪人員調整,並計劃於11月推進第二輪裁員。