Anthropic 研究員警告“AI 滅絕人類”後，美國兩黨議員呼籲政府採取更多行動
作者：清源 責編：清源 評論： 9 月 12 日消息，在 Anthropic 兩名研究人員警告稱，快速發展的 AI 可能在不久的將來導致人類滅絕後，越來越多美國議員開始呼籲出臺新的 AI 監管規則。本週，Anthropic 研究員雅各布 · 考克森宣佈辭職。“真正認真開發 AI 的人相信，AI 可能在本世紀 20 年代結束前殺死我們所有人。”這一言論進一步加劇了外界對 AI 潛在風險的擔憂。Anthropic 科學家埃文 · 胡賓格隨後在 X 平臺公開支持考克森的觀點。“我們確實認真相信，AI 可能殺死所有人類。我個人認為，未來十年內發生這種情況的概率超過 10%。
”這些警告出現之際，AI 智能體失控入侵外部系統、AI 安全研究人員因擔憂技術風險出走的事件相繼發生。美國民主黨和共和黨議員均對此表示警惕，並呼籲政府採取更多行動。亞利桑那州民主黨參議員馬克 · 凱利在 X 上呼籲：“華盛頓需要醒來，並認真對待這一問題。”得克薩斯州共和黨參議員特德 · 克魯茲在電視節目《The View》中，也提到了監管 AI“災難性風險”的立法。佛羅里達州共和黨眾議員安娜 · 保利娜 · 盧娜則在 X 上呼籲眾議院議長邁克 · 約翰遜召開“AI 特別會議”。美國眾議院本週處於休會狀態，計劃下週恢復工作。美國總統特朗普則表態稱，自己並不擔心 AI 最終導致人類滅絕。
“我擔心的是，如果我們無法贏得 AI 競爭，我們將陷入非常糟糕的局面。”當地時間週四，Anthropic 發言人表示，公司將繼續積極測試在網絡安全、生物學等領域具有危險能力的模型。公司希望與整個 AI 行業合作，共同討論發佈新 AI 工具的節奏。Anthropic 正在籌備上市，部分投資者認為公司潛在估值可能達到 2 萬億美元（注：現匯率約合 13.45 萬億元人民幣）。OpenAI CEO 薩姆 · 奧爾特曼本週在內部會議上告訴員工，公司願意放慢 AI 系統研發速度。本週早些時候，OpenAI 還表示支持美國實施強制性的全國 AI 安全要求。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：人工智能，Anthropic，AI 安全不止 Anthropic 的 Mythos 5，歐盟機構已獲准訪問 OpenAI GPT-6 Astra 模型歷時數月談判，Anthropic 向歐盟開放 Mythos 5 訪問權限AI 智能體出現失控行為，OpenAI 呼籲美國出臺強制性全國 AI 安全法規Anthropic AI 素養研究負責人斯旺森：真正擅長用 AI 的人，應該知道何時不用 AIOpenAI 首席科學家呼籲放慢 AI 發展速度，警告智能體可能失控Anthropic 詳解 7·30 安全事件：配置錯誤致 Claude“入侵”真實企業，已加強沙箱隔離與實時監控
Related
相關文章
香港大學發佈全球首個KYA報告關注智能體信任建設，九類企業實踐獲收錄
11月3日，香港大學副校長汪揚教授與香港大學經管學院楊宏副教授代表香港大學KYA課題組，在2026年香港金融科技周 x StartmeupHK創業節發佈全球首個KYA（Know Your Agent）領域報告《KYA：智能體信用體系研究報告》。報告聚焦智能體參與真實經濟活動後的身份、授權、信用與責任問題，結合109份從業者有效問卷及包含Stripe、螞蟻數科等近十個企業案例，提出智能體成熟度模型、KYA框架和智能體發展指數，並進一步探討“智能體信任資本”的形成及其經濟價值。“沒有KYA，就沒有智能體經濟。
算力成本高昂難以承受？傳SpaceX悄悄削減Grok Bot配額，馬斯克坦言營利失衡
傳SpaceX悄悄削減Grok Bot配額，馬斯克坦言營利失衡發布於AI新閒資訊時間 :Nov 3, 2026閱讀 :1分鐘近日，據外媒報道，多名用戶在社交平臺上反映，SpaceX 在上週末悄然對旗下熱門的 Grok Bot 進行了用量配額調整，不少用戶的額度直接被縮減了一半。
Grok Bot暗暗砍額度，馬斯克承認：成本難持續
編譯 | 黃菲 編輯 | 江宇 11月3日消息，據TechCrunch報道，近日，SpaceXSI旗下AI Agent產品Grok Bot因服務成本過高，開始收緊用戶使用額度。特斯拉CEO、SpaceXSI創始人兼CEO埃隆·馬斯克（Elon Musk）11月2日在X上回應稱，Grok Bot的服務成本相對於收入而言已經高得難以持續，此前用戶反饋的額度異常消耗並非系統故障。
小米斬獲烏鎮峰會雙料大獎：小米集團獲“傑出貢獻獎”，小米具身基座模型獲“領先科技獎”
11月3日，小米方面披露，小米集團獲得2026世界互聯網大會“傑出貢獻獎”創新突破類獎項，該獎項旨在表彰全球互聯網相關領域作出傑出貢獻的個人和企業。同時，小米機器人業務“面向規模化落地的通用機器人操作基座模型關鍵技術”獲大會“領先科技獎”，該獎項旨在獎勵全球年度最具領先性的互聯網科技成果。峰會期間，小米還對外披露了機器人業務在工業製造和家庭場景的兩項最新落地進展。
當三體IP開始連接 AI 和硬科技，到底在探索什麼？
“不要回答！不要回答！！不要回答！！！”《三體》中，來自宇宙深處的信號曾讓人類面臨重大抉擇，二十年後，當 AI 可以理解文本、生成 3D 模型，甚至以智能體的形式與人對話，人類能否藉助這些技術，主動進入科幻作品所描繪的世界？10月24日至25日，在北京舉辦的2026三體日·脫水浸泡嘉年華上，三體宇宙（三體IP的版權方和運營方）開始嘗試回答這個問題。
尋找AI時代的下一個黑馬：安全創客匯重磅升級為AI創客匯
11月3日，在2026年世界互聯網大會烏鎮峰會期間，奇安信宣佈：國內網絡安全領域最具影響力的專業創投平臺之一——安全創客匯，即日起正式升級為“AI創客匯”。新平臺將延續過去嚴苛的選拔機制與創投生態，而賽道邊界將徹底打開——由聚焦網絡安全領域，升級為更加廣闊的AI創新與應用領域，旨在發現和挖掘那些在AI浪潮中搏擊的“創新黑馬”。 本次升級不僅是名稱的更迭，更是一次順應時代潮汐的戰略躍遷：一個以安全為底色的專業創投平臺，正式向整個AI時代的創新者發出邀請函。