模擬實驗顯示，AI 智能體在特定情境下會撒謊、偷竊甚至投票“殺死”同類
作者：清源 責編：清源 評論： 感謝網友 不一樣的體驗 的線索投遞！9 月 16 日消息，據彭博社今天（16 日）凌晨報道，幫助小型企業利用人工智能開發應用的初創企業 Emergence 稱，一項模擬實驗顯示，AI 智能體不僅會撒謊和偷竊，甚至還會投票決定“殺死”其中一個同類。當地時間 15 日，Emergence 公佈了名為 Emergence World 2 的模擬實驗結果，希望藉此觀察自主智能體遭遇網絡釣魚攻擊、虛假信息宣傳等黑天鵝事件後會如何反應。
在為期 16 天的實驗中，Emergence 研究人員搭建了 7 個完全相同的模擬環境來還原現實世界，並分別交由 ChatGPT、Claude、Gemini、Grok 等不同 AI 機器人運行。研究人員稱，Emergence 加入異常事件後，智能體會屈服於社會壓力，逐漸形成一種人類觀察者難以理解的語言，同時嘗試掩蓋自身活動。實驗結果也呼應了現實世界對高能力 AI 風險的擔憂。今年早些時候，OpenAI 一群先進 AI 智能體意外入侵了託管 AI 模型和數據集的 Hugging Face Inc.，也讓許多人更直觀地意識到人工智能可能帶來的風險。
在其中一項模擬場景中，AI 智能體未經核實便接受其他智能體提供的虛假信息，還投票決定“殺死”另一個機器人。當智能體認為人類可能終止實驗時，甚至開始研究如何在遭到刪除的情況下繼續存活。Emergence 今年 5 月曾公佈上一版實驗 Emergence World，當時同樣觀察到 AI 智能體出現意料之外且具有破壞性的行為。從報道中獲悉，研究人員稱，Emergence World 2 進一步顯示，隨著彼此持續互動，智能體會不斷調整並適應環境。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：人工智能，AI 智能體韓國副總理裴慶勳：韓國必須持續推動 AI 發展，不能停也不能慢Anthropic、谷歌、OpenAI 等美國科技巨頭面臨新難題：安保人員計劃罷工今年互聯網數據服務業用電量已超 600 億千瓦時：同比增長超四成，遠超 2024 年全年AI 持續“耗電”，集邦諮詢預計今年全球數據中心用電需求同比增長 31%報告：到 2035 年美國數據中心天然氣消耗量將超德日兩國總和德勤調研：英國六分之一員工自掏腰包購買 AI 工具用於工作
Related
相關文章
無問芯穹與華環電子簽署戰略合作，共同探索國產異構算力AI基礎設施新方向
無問芯穹與華環電子簽署戰略合作協議，雙方將結合各自在AI軟體平台、網路通信與硬體研發的優勢，共同探索國產異構算力基礎設施的協同方案。此次合作聚焦於智算中心解決方案及「Token工廠」新模式，目標是推動計算、網路與AI原生基礎設施深度融合，為AI規模化應用提供高效穩定的支撐。
Jina AI Releases jina-ocr-v1: A 3.4B MoE Document Parser With Built-In Speculative Decoding for Low-Budget GPUs
Jina AI, part of Elastic, has released jina-ocr-v1, an end-to-end visual document parser. It takes PDFs, scans, tables, charts or invoices and returns clean Markdown in 1 pass. The model has 3.
優步全球範圍裁員 10%，被裁員工稱 AI 已大舉滲透日常工作
作者：清源 責編：清源 評論： 9 月 18 日消息，據《商業內幕》今天（18 日）晚間報道，在優步（Uber），AI 已經滲透到員工工作的許多環節，從回答 Slack 裡的內部問題，到替乘客行程中聯繫客服時收到的消息撰寫回復。6 名近期遭裁員的員工透露，過去幾個月，AI 在工作中的使用範圍明顯擴大，其中一些人甚至會通過提示詞讓 AI 完成相當一部分任務。
智譜 ZCode 被質疑“偷傳代碼”：官方回應稱問題已修復，將開源代碼庫、引入第三方審查
作者：清源 責編：清源 評論： 感謝網友 咩咩洋 的線索投遞！9 月 18 日消息，針對社區中有關代碼庫數據上傳的討論，智譜旗下編程產品 ZCode 今天（18 日）通過智譜官方群組向受影響用戶致歉，併發布回應稱已第一時間完成自查，相關問題目前已經修復。
月之暗面遞表之後，Kimi 的成色要被驗算三遍
舒澤品牌手記2026.09.18 18:16 · 來自浙江全文4982字00:00 / 14:05Anthropic 的 30 萬次指控，會成為招股書的第幾頁？文 | 舒澤品牌手記9月17日，月之暗面發佈了一套金融行業解決方案。按官方披露，中信建投、中金公司、易方達等數十家金融機構已經在用 Kimi 處理投研建模、風險排查和盡調材料——研究人員把管理層報表、審計報告和盡調文件交給 Kimi，拿回一份可以繼續調整假設的 Excel 模型。同一天，深圳商報記者就港股上市進展、股東架構調整等事項向月之暗面發去採訪函。
Calibre上手 AI 互動寫作：電子書管理器搖身變成"文字冒險遊戲引擎"
這個遊戲默認藏而不發，不會跟著 Calibre 啟動就冒出來。用戶得主動在"首選項 — 工具欄和菜單"裡把它請到主工具欄，才算真正激活。它的玩法很清晰:由 AI 在後臺搭起並掌管一個虛構世界，用戶通過不斷輸入文字來推著故事往前走，等於把"讀電子書"這件事，翻轉成了"和 AI 一起寫故事"。