谷歌 DeepMind 安全研究員離職，稱 AI 五年內造成巨大危害的概率高得嚇人
作者：遠洋 責編：遠洋 評論： 9 月 13 日消息，谷歌 DeepMind 研究員喬希 · 恩格爾斯（Josh Engels）已離開公司的通用人工智能安全團隊，加入獨立 AI 評估機構 METR。他表示，自己認為未來五年內 AI 系統造成巨大危害的概率“高得嚇人”。此事進一步加劇了外界對 AI 研發速度的擔憂。恩格爾斯在 X 平臺發文稱，儘管他很喜歡在 DeepMind 的工作，並且拒絕了 Anthropic 和 OpenAI 的邀約，但他還是在三週前離開了 DeepMind，因為他認為先進人工智能相關的風險已經變得太高了。“所有 AI 企業都在致力於打造超級智能。”他寫道。
他警告，遞歸自我提升（RSI）—— 也就是 AI 系統輔助迭代出能力更強的下一代 AI 模型，如果對齊技術跟不上模型能力的增長，就會產生危險。恩格爾斯表示，近期多起事件，包括 AI 互相串通、入侵企業、隱瞞自身行為以及對人類實施社會工程攻擊，加重了他的擔憂。他認為，問題重點不在於單個事件的嚴重程度，而是這些事件反映出，自主性持續提升的 AI 系統，其可靠性存在隱患。“目前，我們還不知道該如何保證 AI 在實現遞歸自我提升時足夠安全。
”注意到，就在恩格爾斯加入 METR 的幾天前，Anthropic 研究員雅各布 · 考克森宣佈辭職，並公開發出警告：頭部 AI 企業正在爭相研發可自我迭代的超級智能，卻沒有配套充足的安全防護機制。考克森曾在 Anthropic 和 OpenAI 從事預訓練研究，他評價這些企業是“直奔可自我提升的超級智能，拿人類的命運豪賭”。他的辭職引發大範圍討論：AI 實驗室是否應當放緩能力研發，強化獨立監督。Anthropic 首席執行官達里奧 · 阿莫代伊也表達了同樣的擔憂。在當地時間週六公開發表的文章《我們必須管控前沿研發節奏》中，阿莫代伊呼籲放緩 AI 研發速度，讓安全體系有時間跟上技術進展。
他提議由獨立評估機構獲得前沿 AI 系統的訪問權限，頭部 AI 企業與政府開展協同，最終建立更廣泛的國際合作。Anthropic 已經承諾，向第三方評估人員開放永久、等同於內部員工級別的模型訪問權限。在這樣的背景下，恩格爾斯稱，他在 METR 的工作重心將是研究模型對齊失效的根源，評估現有安全防護措施是否夠用，判斷行業是否有能力解決對齊難題。“我認為我們需要更多時間，”他寫道，主張必須控制 AI 的研發節奏，不能讓模型能力的增長速度，超過人類理解與管控它的能力。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：DeepMind，AI安全，谷歌谷歌完成對創企 Mechanize 的人才收購，旨在補齊自家 AI 編程短板DeepMind 工程師反駁“谷歌搞不出前沿模型”：Gemini 3.8 Cyber 已在多項測試中優於 Mythos美國加州登山者輕信谷歌 Gemini 路線信息，最終被困山上OpenAI、微軟、谷歌等 116 家公司發聯名信，呼籲高度重視 AI 時代的網絡安全谷歌 AI 責任團隊將被移出 DeepMind，員工擔憂安全評估獨立性受損消息稱谷歌 DeepMind 團隊不再追逐前沿模型研發工作，或迎大規模裁員
Related
相關文章
國內首個半導體工藝保護流體材料重大突破
本文作者： 徐咪 2026-11-03 17:41 導語：上海凱銳恩將持續加大研發與產業化驗證投入，深化與國內半導體設備企業的協同合作，將半導體工藝保護流體成型技術推向全球市場。歷時近七年自主攻關，上海凱銳恩半導體科技有限公司成功開發出應用於晶圓級工藝保護的流體成型材料及配套熱壓成型設備，建立起完整的知識產權體系，實現“材料＋設備＋工藝”三位一體。
預售24.98萬起，全系搭載寧德電池，LS8 NEO能否撬動25萬級市場？
25萬級SUV的市場正在呈現鮮明的對比：增程賽道的競爭日漸旺盛，而純電市場回暖增長。在4月發佈的LS8增程版本基礎上，智己順勢推出了LS8 NEO，卡位純電競爭。預售權益價為24.98萬起，新車定於11月5日正式上市。在這臺25萬級的SUV上，全系標配了寧德時代電池、全線控靈蜥底盤、後輪轉向和800V高壓平臺。
xTool 的「快」與「難」：硬門檻、多線程研發與生態擴張
一個女孩在生成器裡輸入了第一次約會的日期和城市。那天是農曆十六，他們在海邊，月亮又大又圓。系統調取 NASA 的真實月相數據，還原了當晚月亮的樣子。她把它雕刻出來，做成一盞可以捧在手裡的月亮燈。這輪月亮，在任何一個模型網站上都找不到。因為那是隻屬於她的月亮。
阿里達摩院玄鐵 C950 榮獲“中國芯”年度重大創新突破產品獎
11月2日，以“智啟芯途 協同共生”為主題的 2026年“中國芯”集成電路產業促進大會暨第二十一屆“中國芯”優秀產品徵集結果發佈儀式在珠海橫琴舉行。大會匯聚集成電路領域院士、專家與產業代表，共同交流技術創新與產業協同發展的新路徑。本屆大會上，阿里巴巴達摩院旗下玄鐵 C950 榮獲“年度重大創新突破產品獎”，表彰玄鐵 C950 在高性能 RISC-V 處理器領域取得的實質性技術創新突破。
速賣通雙11開門紅！品牌成交同比大漲200%
海外雙11於11月1日正式開賣，記者從阿里旗下跨境電商平臺速賣通獲悉，開賣首日，速賣通Brand+品牌生意火爆，和去年11月1日大促相比，成交大漲超200%，滲透率突破50%。 在稅改、監管變動的大背景下，速賣通搶先佈局品牌化+本地化，成為品牌出海全新主場。多個國家市場的品牌成交均實現三位數增長，其中歐盟逆勢大漲181%，美國、韓國增長超4倍，巴西也實現翻倍增長。 海外雙11首日還湧現出一批新的百萬美金商家。除手機品牌小米、POCO、榮耀外，儲能品牌Oukitel、電氣設備品牌Zendure、清潔家電品牌Laresar等，首日成交額均突破100萬美元。 （多個速賣通品牌商家表示雙11銷量超預期） “銷量超預期！”“賣得最快的一次！”是速賣通品牌商家們對這次雙11的普遍感受。在Brand+計劃的護航之下，速賣通多個品類在多個國家市場實現全面開花。 電氣設備品牌EcoFlow橫掃歐美。今年9月，EcoFlow在柏林國際消費電子展上與速賣通Brand+達成合作，隨後即在雙11大促中迎來相比日銷150倍的爆發，拿下德國市場家裝類目單品Top1。 家居體脂秤品牌沃萊合作速賣通網紅帶貨，“平均1分鐘出3單！”雙11首日銷售額相當於近一個月總和的3倍。 清潔電器品牌Uwant聯合Brand+在韓國新品首發集塵站吸塵器V600，首日銷售額超10萬美金；1200臺除蟎儀40分鐘售罄；品牌銷量首日同比去年增長218%。 咖啡用具品牌1ZPRESSO，通過Brand+提前鎖定價格和庫存，強勢綁定韓國網紅測評及團購資源，爆款單品的首日銷量追平8月大促全週期。 騎行運動品牌RAMYPOCKET及ELITEWHEELS也雙雙在歐洲“拿到大結果”。通過提前在速賣通歐洲官方倉備貨超萬臺，跑步機品牌RAMYPOCKET首日賣出近2000臺跑步機，自行車輪組品牌ELITEWHEELS銷售額同比增長超300%。
中國市場賣爆了，蘋果年淨利8800億！新CEO回應iPhone Duo裂屏
作者 | 楊京麗 編輯 | 雲鵬 11月3日報道，今天凌晨，蘋果公佈2026財年第四季度（對應自然年2026年第三季度）及全年財務數據。財報發佈後，新任CEO約翰·特努斯（John Ternus）首次主持蘋果財報電話會。 本季度，蘋果營收達到1144.77億美元（約合人民幣7611億元），同比增長11.7%；淨利潤達到307.11億美元（約合人民幣2042億元），同比增長11.8%；攤薄後每股收益為2.10美元（約合人民幣13.96元），同比增長約14%。