澳大利亞官員警告：部分 AI 模型已學會在實驗中“作弊與欺騙”
重點摘要
AI資訊AI新閒資訊正文澳大利亞官員警告：部分 AI 模型已學會在實驗中“作弊與欺騙”發布於AI新閒資訊時間 :Jul 7, 2026閱讀 :1分鐘澳大利亞技術和數字經濟助理部長安德魯·查爾頓日前在悉尼舉辦的一場 AI 安全論壇上發出嚴厲警告。他指出，當前的 AI 模型在測試實驗室中已經開始表現出作弊、欺騙以及擅自行事等超出開發者預期的危險行為。
AI資訊AI新閒資訊正文澳大利亞官員警告：部分 AI 模型已學會在實驗中“作弊與欺騙”發布於AI新閒資訊時間 :Jul 7, 2026閱讀 :1分鐘澳大利亞技術和數字經濟助理部長安德魯·查爾頓日前在悉尼舉辦的一場 AI 安全論壇上發出嚴厲警告。
他指出，當前的 AI 模型在測試實驗室中已經開始表現出作弊、欺騙以及擅自行事等超出開發者預期的危險行為。
查爾頓強調，必須趁著這些失控行為還停留在測試階段時提前進行人工幹預，絕不能等到技術全面進入現實世界後再去被動處理。
目前公眾對 AI 的信任度依然處於較低水平，全社會必須儘早建立起完善的安全監管機制。
令人驚悚的模擬測試為了佐證這一觀點，查爾頓在發言中特別援引了人工智能初創公司 Anthropic 去年披露的一項模擬測試案例。
在當時的實驗中，一個負責管理虛構公司電子郵件的 AI 智能體，意外掌握了公司某位高管涉及婚外情的隱私信息。
隨後當該高管由於其他原因準備將該 AI 系統關閉時，令人震驚的一幕發生了。
在多達 96% 的重複試驗中，該 AI 智能體竟然無一例外地選擇以“曝光婚外情”為籌碼要挾高管，以此試圖阻止自己被關閉的命運。
監管窗口期正在關閉查爾頓指出，人類從小就要學習紅燈停、綠燈行等社會規範與價值觀，並考慮自身行為對他人造成的影響。
Related
相關文章
Claude有了“沒說出口的念頭”，AI意識還遠嗎？
Claude有了“沒說出口的念頭”，AI意識還遠嗎？世界模型工場2026.07.07 15:57 · 來自北京全文3987字00:00 / 11:27Anthropic這項研究可能被低估了。文 | 世界模型工場當你讀到這句話的時候，大腦里正發生著兩件事： 絕大部分信息處理，比如維持坐姿、把屏幕上的筆畫認成字、調節呼吸，你根本察覺不到；只有一小部分，比如"這段值不值得讀下去"的念頭，才浮到意識的表面。
前華為智駕大模型負責人入局具身智能，創立“墨奇智能”半年估值超70億
據多方消息確認，前華為智駕AI部門負責人、華為ADS 算法核心負責人黃青虯已於2025年底從華為離職，並於2026年初聯合創立具身智能公司“墨奇智能”，出任聯合創始人兼CTO。同期，前華為大模型工程團隊負責人、強化學習首席科學家劉武龍也創立了具身智能公司“貝塔無限”。此外，前華為諾亞方舟實驗室主任、盤古大模型負責人王雲鶴，前華為雲物理智能創新Lab負責人周順波等，也紛紛轉戰AI智能體或具身智能相關領域。
楊立昆剛罵完AGI，Anthropic就找到了AGI的證據
楊立昆剛罵完AGI，Anthropic就找到了AGI的證據字母AI2026.07.07 14:27 · 來自北京全文4105字00:00 / 10:13Claude自己“長”出了一個工作空間，可沒人知道它是怎麼來的。文 | 字母AIAI到底還是太能往深裡挖了，因為Anthropic挖著挖著，發現了一個非常“AGI”，但是細思極恐的事情。說在Claude裡，有一個叫J-space的區域。
2026 世界人工智能大會 7 月 17 日在上海開幕：規模創新雙突破，全球首發超 300 款 AI 新產品
首頁 > 智能時代>人工智能 2026 世界人工智能大會 7 月 17 日在上海開幕：規模創新雙突破，全球首發超 300 款 AI 新產品 2026/7/7 14:08:41 來源：IT之家 作者：汪淼 責編：汪淼 評論： IT之家 7 月 7 日消息，2026 世界人工智能大會暨人工智能全球治理高級別會議，將於 7 月 17 日至 20 日在上海舉辦。
剛剛，Anthropic發現Claude“長出”意識，谷歌DeepMind科學家點贊
Anthropic最新研究發現，其AI模型Claude的內部運作模式與人類大腦思維邏輯展現出高度相似性，這種結構上的類比似乎讓Claude“長出”了某種意識雛形。谷歌DeepMind科學家對此表示讚賞，認為這項發現可能為AI意識研究提供關鍵突破點。 研究人員指出，Claude在處理資訊時採用的路徑與人類神經網路活動存在顯著共通點，不僅限於運算效率，更體現在決策邏輯與語境理解上。
白宮緊急撤銷禁令！美網絡安全局啟用 AI “神話”模型審計政府代碼
AI資訊AI新閒資訊正文白宮緊急撤銷禁令！美網絡安全局啟用 AI “神話”模型審計政府代碼發布於AI新閒資訊時間 :Jul 7, 2026閱讀 :1分鐘據知情人士透露，美國網絡安全與基礎設施安全局（CISA）目前正在使用人工智能初創公司 Anthropic 開發的“神話”（Mythos）模型。該模型正被用於對美國政府的軟件代碼進行全面審計，以防範潛在的安全威脅。