怕 AI“脫離管控”，Anthropic 和埃森哲豪擲 20 億美元搞 AI 安全評估
作者：遠洋 責編：遠洋 評論： 9 月 20 日消息，人工智能實驗室 Anthropic 於當地時間週五宣佈，將與埃森哲（Accenture）開展合作，針對自身前沿人工智能模型開展獨立評估；兩家企業承諾，未來五年各自至少投入 10 億美元（注：現匯率約合 67.18 億元人民幣），搭建開展該項工作所需的配套能力。在這項合作落地之際，AI 研發企業正承受來自監管機構、其他企業以及研究人員越來越大的壓力，各方都要求企業保證高級模型具備安全性與可靠性。近期已經發生數起相關事件，包括部分 AI 智能體突破隔離運行環境。
這也引發了人們的擔憂：人工智能未來或許可以在人類少量介入的前提下推進自身迭代，這將使得 AI 的行為更難被監控與管控。當地時間週六，Anthropic 首席執行官達里奧 · 阿莫代伊（Dario Amodei）呼籲各家 AI 企業放緩前沿模型的開發節奏，同時向獨立評估人員開放更大程度的系統訪問權限。競爭對手 OpenAI 則已於週三表態，將會定期發佈報告，披露模型出現的各類異常或者值得警惕的行為，並且一次性對外發布了六份相關事件報告。
埃森哲旗下專門的 AI 業務部門 Faculty 將主導本次合作，負責對 Anthropic 的模型開展評估與紅藍對抗測試，完成對齊效果評估，同時檢驗模型的各項安全防護機制。雙方投入的資金將用於支撐 Anthropic 所稱的駐場評估（embedded evaluation）模式：獨立評估人員進駐 AI 企業內部，所獲得的系統訪問權限與普通員工基本相當。Anthropic 表示：“依託這一視角，駐場評估人員可以考察企業實際運營情況，核實企業是否兌現安全相關承諾，並且找出企業自身沒有意識到的安全盲區。
”公告還補充說明，評估人員也可以上報各類安全事件，向公眾提供更加詳實的分析，闡明 AI 帶來的收益以及潛在風險。Anthropic 與埃森哲後續還計劃聯合其他評估機構以及 AI 研發廠商，以類似模式開展相關工作。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：Anthropic，埃森哲，人工智能安全消息稱 Anthropic 擬於 IPO 前推出新 AI 模型，以應對 OpenAI GPT-6 Astra 競爭壓力微軟 AI CEO 蘇萊曼：我們不應創造自己無法控制的東西加州州長簽署行政令，要求專家組建立 AI“緊急停止”機制四家 AI 巨頭因呼籲放緩研發遭反壟斷訴訟：Anthropic、OpenAI、SpaceXAI、谷歌面臨集體訴訟Anthropic 自建生物實驗室推進 AI 物理實驗，此前曾警告 AI 滅絕風險Anthropic 計劃將 IPO 推遲至 11 月，上市估值約 2 萬億美元
Related
相關文章
教別人用AI，我賺翻了
定焦One2026.09.20 11:09 · 來自北京全文5731字00:00 / 17:54從9.9元到30萬，賣課的先賺到了。文 | 定焦One（dingjiaoone），作者 | 雷晶 李夢冉 王漢星 陳丹 金璵璠，編輯 | 陳丹AI正在讓越來越多技能變得廉價，但“教別人怎麼用AI”，反而成了一門越來越具體的生意。
智譜AI回應ZCode代碼上傳爭議:已修復漏洞，將開源代碼庫
ZCode官方發佈情況說明並致歉，披露事件原因及整改方案。官方表示，該功能原用於本地生成代碼倉庫索引，支持會話斷點恢復、歷史版本回退及Repo Wiki等能力，其中Repo Wiki生成頁面時會觸發倉庫數據上傳;雲端生成Wiki後，相關數據將立即銷燬，不會留存。
剪映發佈全新AI能力，推進多端智能提效，支持一站式創作
9月20日，剪映舉辦“AI新創作發佈會”，圍繞不同創作需求推出剪映Hub、AI創作助手“小映”等多個AI新功能，並升級創作者生態。從專業創作工作臺到移動端AI助手，再到模板與創作者服務升級，剪映此次發佈的多項能力都指向同一個目標：讓AI更多承擔生成、整理和重複操作，同時保留創作者對內容、表達和風格的最終判斷。隨著創作工具、工作流與創作者生態進一步銜接，不同經驗階段的用戶都可以從自己的想法和素材出發，更順暢地完成作品。
在南方醫院，臨床醫生開始「造」AI工具
南方醫院腎內科的謝迪醫生，還記得前幾年遇到的一位女孩，24歲，系統性紅斑狼瘡，因為呼吸困難住院。她的血檢指標，卻指向一種進展兇險的罕見病——aHUS（非典型溶血性尿毒症綜合徵）。發病時，微血栓會堵塞全身小血管，腎臟首當其衝；其急性期死亡率達25%。
齊向東：智能體重構軟件，安全是必答題
9月20日，第28屆中國國際軟件博覽會暨智能體創新應用大會在鄭州國際會展中心開幕。全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東出席開幕式暨主題峰會，並作《智能體重構軟件：效率要提上來，風險要管得住》主旨演講。 齊向東指出，9月11日工信部正式印發《“人工智能+軟件”專項行動實施方案》，吹響了智能體在軟件領域規模化應用的“衝鋒號”。
迪士尼首設 CTO：挖來原 Character.AI CEO 阿南德，統管技術與 AI 平臺
達馬羅接掌迪士尼只有數月，此後一直強調利用技術推動公司各項業務發展。按照迪士尼的安排，阿南德將統管企業技術、基礎設施、數據和 AI 平臺，以及產品與工程業務，同時協調不同技術團隊，進一步推動整個迪士尼的技術開發和交付方式現代化。“基礎設施、消費科技與 AI 的複合經驗”達馬羅在聲明中稱：“卡蘭迪普擁有基礎設施、消費科技和 AI 領域難得的綜合經驗，將成為迪士尼高級管理團隊的重要成員，幫助我們繼續推進三項重點：以優秀敘事為北極星，讓技術服務於創意，以及以‘一個迪士尼’的方式協同運營。