怕 AI“脫離管控”，Anthropic 和埃森哲豪擲 20 億美元搞 AI 安全評估
作者：遠洋 責編：遠洋 評論： 9 月 20 日消息，人工智能實驗室 Anthropic 於當地時間週五宣佈，將與埃森哲（Accenture）開展合作，針對自身前沿人工智能模型開展獨立評估；兩家企業承諾，未來五年各自至少投入 10 億美元（注：現匯率約合 67.18 億元人民幣），搭建開展該項工作所需的配套能力。在這項合作落地之際，AI 研發企業正承受來自監管機構、其他企業以及研究人員越來越大的壓力，各方都要求企業保證高級模型具備安全性與可靠性。近期已經發生數起相關事件，包括部分 AI 智能體突破隔離運行環境。
這也引發了人們的擔憂：人工智能未來或許可以在人類少量介入的前提下推進自身迭代，這將使得 AI 的行為更難被監控與管控。當地時間週六，Anthropic 首席執行官達里奧 · 阿莫代伊（Dario Amodei）呼籲各家 AI 企業放緩前沿模型的開發節奏，同時向獨立評估人員開放更大程度的系統訪問權限。競爭對手 OpenAI 則已於週三表態，將會定期發佈報告，披露模型出現的各類異常或者值得警惕的行為，並且一次性對外發布了六份相關事件報告。
埃森哲旗下專門的 AI 業務部門 Faculty 將主導本次合作，負責對 Anthropic 的模型開展評估與紅藍對抗測試，完成對齊效果評估，同時檢驗模型的各項安全防護機制。雙方投入的資金將用於支撐 Anthropic 所稱的駐場評估（embedded evaluation）模式：獨立評估人員進駐 AI 企業內部，所獲得的系統訪問權限與普通員工基本相當。Anthropic 表示：“依託這一視角，駐場評估人員可以考察企業實際運營情況，核實企業是否兌現安全相關承諾，並且找出企業自身沒有意識到的安全盲區。
”公告還補充說明，評估人員也可以上報各類安全事件，向公眾提供更加詳實的分析，闡明 AI 帶來的收益以及潛在風險。Anthropic 與埃森哲後續還計劃聯合其他評估機構以及 AI 研發廠商，以類似模式開展相關工作。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：Anthropic，埃森哲，人工智能安全消息稱 Anthropic 擬於 IPO 前推出新 AI 模型，以應對 OpenAI GPT-6 Astra 競爭壓力微軟 AI CEO 蘇萊曼：我們不應創造自己無法控制的東西加州州長簽署行政令，要求專家組建立 AI“緊急停止”機制四家 AI 巨頭因呼籲放緩研發遭反壟斷訴訟：Anthropic、OpenAI、SpaceXAI、谷歌面臨集體訴訟Anthropic 自建生物實驗室推進 AI 物理實驗，此前曾警告 AI 滅絕風險Anthropic 計劃將 IPO 推遲至 11 月，上市估值約 2 萬億美元
Related
相關文章
智能體身份註冊與解析平臺在烏鎮發佈，螞蟻參與首批運行平臺建設
11月4日，2026年世界互聯網大會烏鎮峰會“智能體互信互聯互操作全球合作創新——攜手構建智能互聯網論壇”在烏鎮舉行，智能體信任治理成為產業各方關注的焦點。產業界普遍認為，互聯網正從信息互聯、服務互聯走向智能體互聯，智能體開始感知、決策並代表用戶行動。伴隨治理對象從“內容”變成“行為”，“統一底座”正成為智能體跨域協作加速的共同關鍵。
AI日報：百度發佈物理AI世界模型Apollo World；騰訊 Hy4 正式版亮相；阿里雲發佈AI投研工作臺Qovest
百度首次發佈物理AI世界模型Apollo World，蘿蔔快跑近百輛無人車搭載新架構運營百度Apollo World將交通參與者建模為自主智能體，單日可虛擬路測約10萬公里，用於驗證端到端架構安全性，體現L4從實車測試向仿真閉環演進。但世界模型仍難以完整模擬真實環境，需與實車數據結合。
靈光開放生態持續擴容，新增微信讀書、夸克、哈囉打車、麥當勞等多項服務連接
在此之前，靈光已接入支付寶、網易郵箱、飛書等連接器服務。至此，靈光開放生態下已打通40項外部連接器。隨著AI助手能夠連接越來越多的外部服務，其價值開始體現在跨工具、跨場景的任務管理能力上，作為一款能管事的個人AI助手，靈光的此次升級進一步體現了這一趨勢。
靈光開放生態持續擴容，新增微信讀書、夸克、哈囉打車、麥當勞等多項服務連接
11 月 4 日，螞蟻靈光迎來新一輪升級，新增播客訂閱、夸克網盤、哈囉打車、麥當勞和微信讀書等連接器服務，將能力延伸至信息管理、內容訂閱、運動閱讀及生活消費等更多日常場景。在此之前，靈光已接入支付寶、網易郵箱、飛書等連接器服務。至此，靈光開放生態下已打通40項外部連接器。 隨著AI助手能夠連接越來越多的外部服務，其價值開始體現在跨工具、跨場景的任務管理能力上，作為一款能管事的個人AI助手，靈光的此次升級進一步體現了這一趨勢。
當10萬個智能體已在運行，安全防線到底在哪？｜CNCC 2026專家激辯智能體安全挑戰
2026年，智能體從概念走向了生產系統。螞蟻集團3萬多名員工背後，已有10萬餘個智能體在運行。華為內部同樣部署了成千上萬個智能體，覆蓋客服、辦公、運維、研發各條業務線。放眼更廣的產業圖景，個人助手、AI for Science、網絡安全自動化攻防、企業級工作流編排，智能體正在逐步接管人類過去親力親為的工作。Gartner將智能體列入了2027年十大戰略技術，安全圈裡，非人類身份（NHI）成了RSAC大會上的新賽道。
阿里雲發佈AI投研工作臺Qovest:99元/月開放個人邀測
投研空間可沉澱研究結果，讓研究得以延續推進，無需從零開始。官網www.qovest.cn已對個人用戶開放邀測，訂閱分每月99元與199元兩檔，近期將推出面向金融機構及企業投研團隊的企業版。針對專業投資者對數據實時準確、結論出處明確的要求，團隊採購權威金融數據庫並部署於阿里雲，自研金融場景Agent工程框架Harness，打通數據調用到分析輸出的全流程。