聯合國：不必等風險完全釐清，各國應提前管控 AI 智能體
作者：遠洋 責編：遠洋 評論： 9 月 21 日消息，聯合國一個科學專家小組發佈警示：各國政府應當在完全釐清風險之前，就對能力日益強大的 AI 智能體加以管控。這份報告也是該國際組織針對今年早些時候 OpenAI 入侵 Hugging Face 一事出具的首份重要評估文件。注意到，本週各國領導人齊聚紐約出席聯合國大會，中美雙方也同步開展人工智能相關會談；這份報告的發佈，進一步將人工智能議題推上全球外交議程。上週，聯合國秘書長安東尼奧 · 古特雷斯（António Guterres）呼籲各國政府開展合作，共同應對人工智能帶來的威脅。
他同時發出警告：“世界承受不起一場在 AI 安全層面競相降低標準的惡性競賽。”這份文件是聯合國人工智能獨立國際科學專家小組發佈的首份專題簡報。該專家小組成立於去年，是聯合國旗下“首個人工智能領域全球性科學機構”。簡報提出：即便各個國家選擇不同的立法監管路徑，全球仍然需要投入更多關注與資源，管控高級人工智能正在浮現的各類風險；同時還要強化國際層面在安全與追責方面的協作。報告當中尤為關鍵的一點是，該專家小組提出，世界不必等到科研人員徹底釐清此類事故發生的機理與成因之後，再去落實更強的防護措施。
專家小組認為，失控風險恰恰正是預防原則所要應對的問題：“即潛在損害有可能是災難性、不可逆的，但該風險發生的概率在科學層面尚且無法確定。”預防原則最早寫入 1992 年《聯合國里約環境與發展宣言》。該項原則明確：不能以科學層面尚存不確定性為由，推遲針對有可能造成嚴重或者不可逆損害的風險採取管控措施。此後該原則深刻影響了環境以及公共衛生領域的政策制定，在歐盟地區尤其得到廣泛運用。
自 Hugging Face 遭入侵事件被首次報道以來，已有多起同類事件被記錄在案，涉及 OpenAI、Anthropic、谷歌以及 Meta 等多家企業；其中既包括針對現實世界目標的攻擊行為，也出現過多智能體集群接管線上留言板的情況。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：AI，人工智能，聯合國，Hugging Face，OpenAI“安全事件”發生前，曝 OpenAI 失控智能體 5 月就已試圖探測 Hugging Face 弱點因模型入侵 Hugging Face，OpenAI 面臨美國參議院調查科技巨頭密集更新 AI 模型，“模型疲勞”問題凸顯OpenAI 發佈 Hugging Face 安全事件官方報告，還原 AI 模型沙箱逃逸全過程美國阿拉巴馬州向 OpenAI 發出傳票，就其模型入侵 Hugging Face 事件展開調查消息稱 AI 初創公司 Hugging Face 探索出售，估值達 130 億美元
Related
相關文章
科技巨頭因 AI 購物起爭端：亞馬遜封禁 Meta Muse 智能體
首頁 > 智能時代>人工智能 科技巨頭因 AI 購物起爭端：亞馬遜封禁 Meta Muse 智能體 2026/9/21 19:52:52 來源：IT之家 作者：遠洋 責編：遠洋 評論： 感謝IT之家網友 咩咩洋 的線索投遞！ IT之家 9 月 21 日消息，亞馬遜已經阻斷了 Meta 全新的個人 AI 智能體 Muse 代用戶在亞馬遜網站購物的訪問權限。此前亞馬遜曾嘗試勸說這家 Facebook 母公司主動在 Muse 當中排除亞馬遜電商站點，但協商未果。亞馬遜表示，整件事的問題在於，亞馬遜自始至終從未許可過該訪問行為。Meta 事先沒有告知亞馬遜 Muse 會訪問其電商平臺；這款智能體在網頁瀏覽的時候也不會主動表明自身身份；而且 Muse 似乎會採集並保存用戶賬號憑證，亞馬遜認為這會帶來隱私以及安全隱患。自當地時間上週日晚間起，當用戶試圖使用 Muse 在亞馬遜下單購物時，頁面就會彈出提示：“未經授權的 AI 智能體繼續訪問本網站，違反了亞馬遜的使用條款，該條款已得到我方用戶認可。”亞馬遜一位發言人在聲明中表示：“道理其實十分簡單。如果第三方應用要代消費者向其他商家發起採購，運作過程就應當公開透明，同時需要尊重服務提供方關於是否參與該服務的決定。”Meta 此前曾經表態：“Muse 無法讀取用戶的密碼或者支付信息。”用戶提交的賬號憑證會進入安全存儲區；Muse 可以調用這些憑證，但本身看不到明文內容，即便是用戶自己在瀏覽器當中輸入的密碼也是如此。兩大科技巨頭此次發生衝突格外引人關注，畢竟雙方本身存在業務合作：自 2023 年起，用戶就可以直接在 Facebook 與 Instagram 內購買亞馬遜的商品；Meta 還在今年 4 月簽署了一份價值數十億美元的合作協議，依託亞馬遜雲平臺運行自身的智能體 AI 算力負載。這場爭端也是更大範圍行業爭論的縮影：當 AI 智能體替消
智譜道歉之後，誰來給Agent劃邊界？
字母榜2026.09.21 18:03 · 來自北京全文4640字00:00 / 14:10Agent比人們想象的更危險。文 | 字母榜上傳代碼風波發酵近72小時後，智譜道歉了。9月21日早間，智譜旗下AI編程平臺ZCode發文稱，針對社區反饋的ZCode產品安全問題，已經完成整改，並向所有用戶道歉。智譜方面還表示，已將ZCode開源（https://github.com/zai-org/ZCode），把代碼交給社區監督，讓ZCode變得開放、透明。
微軟花 12 萬美元讓 AI 重寫 Copilot 運行時：43 萬行 TS 變 80 萬行 Rust，快 15.9 倍
這個運行時比多數用戶想象得更要命：它支撐著 GitHub Copilot CLI、Copilot App、SDK 和 Copilot 雲 Agent，還會出現在 VS Code、Visual Studio、Excel、Outlook、PowerPoint 以及一堆微軟雲服務中。
阿寶上線「魚來」摸魚AI系統，將碎片化休息納入智能管理
據瞭解，「魚來」首批已釋放500尾魚苗。用戶只需對阿寶說出「魚來」，即可隨機召喚一條魚，從中選出自己的「命定之魚」，並設置每日摸魚提醒。整個流程被概括為三步:對阿寶說出指令（如「每天下午2點提醒我來摸魚」）、為任務命名並開啟通知權限、坐等每日準時提醒。
剪映殺入AI視頻賽道，LibTV們將迎來衝擊波？
AI價值官2026.09.21 11:48 · 來自浙江全文4155字00:00 / 12:39單點工具的比拼已成過去，打通創作全鏈路、佈局下一代內容形態，正成為所有玩家共同的競爭方向。文 | AI價值官，作者丨星野，編輯丨美圻過去一年多，AI視頻平臺快速崛起，悄然改寫了視頻生產的底層邏輯。一站式創作模式持續向短劇、漫劇、商業廣告等場景滲透，傳統剪輯軟件的地位正在受到衝擊。對所有剪輯工具而言，向上遊延伸能力邊界、深度整合AI生成能力，已從功能迭代的可選項，變成必須回應的命題。
賈躍亭的 FF 一口氣發佈九款 EAI 機器人，最貴超 92 萬元
據官方介紹，FF“四核全智”開放生態由 EAI 大腦與開發者平臺、EAI 本體、行業生產力解決方案和 EAI 數據工廠組成。賈躍亭表示，FF 要構建的不是單一形態的全能機器人，而是由通用泛化的 EAI 大腦支撐多種本體形態、並通過 Agents、Skills 和真實場景數據持續進化的機器人生態。