Anthropic 研究員警告“AI 滅絕人類”後，美國兩黨議員呼籲政府採取更多行動
作者：清源 責編：清源 評論： 9 月 12 日消息，在 Anthropic 兩名研究人員警告稱，快速發展的 AI 可能在不久的將來導致人類滅絕後，越來越多美國議員開始呼籲出臺新的 AI 監管規則。本週，Anthropic 研究員雅各布 · 考克森宣佈辭職。“真正認真開發 AI 的人相信，AI 可能在本世紀 20 年代結束前殺死我們所有人。”這一言論進一步加劇了外界對 AI 潛在風險的擔憂。Anthropic 科學家埃文 · 胡賓格隨後在 X 平臺公開支持考克森的觀點。“我們確實認真相信，AI 可能殺死所有人類。我個人認為，未來十年內發生這種情況的概率超過 10%。
”這些警告出現之際，AI 智能體失控入侵外部系統、AI 安全研究人員因擔憂技術風險出走的事件相繼發生。美國民主黨和共和黨議員均對此表示警惕，並呼籲政府採取更多行動。亞利桑那州民主黨參議員馬克 · 凱利在 X 上呼籲：“華盛頓需要醒來，並認真對待這一問題。”得克薩斯州共和黨參議員特德 · 克魯茲在電視節目《The View》中，也提到了監管 AI“災難性風險”的立法。佛羅里達州共和黨眾議員安娜 · 保利娜 · 盧娜則在 X 上呼籲眾議院議長邁克 · 約翰遜召開“AI 特別會議”。美國眾議院本週處於休會狀態，計劃下週恢復工作。美國總統特朗普則表態稱，自己並不擔心 AI 最終導致人類滅絕。
“我擔心的是，如果我們無法贏得 AI 競爭，我們將陷入非常糟糕的局面。”當地時間週四，Anthropic 發言人表示，公司將繼續積極測試在網絡安全、生物學等領域具有危險能力的模型。公司希望與整個 AI 行業合作，共同討論發佈新 AI 工具的節奏。Anthropic 正在籌備上市，部分投資者認為公司潛在估值可能達到 2 萬億美元（注：現匯率約合 13.45 萬億元人民幣）。OpenAI CEO 薩姆 · 奧爾特曼本週在內部會議上告訴員工，公司願意放慢 AI 系統研發速度。本週早些時候，OpenAI 還表示支持美國實施強制性的全國 AI 安全要求。
投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：人工智能，Anthropic，AI 安全不止 Anthropic 的 Mythos 5，歐盟機構已獲准訪問 OpenAI GPT-6 Astra 模型歷時數月談判，Anthropic 向歐盟開放 Mythos 5 訪問權限AI 智能體出現失控行為，OpenAI 呼籲美國出臺強制性全國 AI 安全法規Anthropic AI 素養研究負責人斯旺森：真正擅長用 AI 的人，應該知道何時不用 AIOpenAI 首席科學家呼籲放慢 AI 發展速度，警告智能體可能失控Anthropic 詳解 7·30 安全事件：配置錯誤致 Claude“入侵”真實企業，已加強沙箱隔離與實時監控
Related
相關文章
長安汽車首席專家譚歡：未來要用機器人造車、賣車，讓機器人上車、造機器人
作者：清源 責編：清源 評論： 9 月 18 日消息，在今天（18 日）的第 22 屆中國汽車產業發展（泰達）國際論壇“新賽道生態專場：具身智能新賽道”活動中，長安汽車首席專家、長安天樞智能機器人公司總經理譚歡在演講中指出，AI 正推動以物理具身智能為核心的基礎設施革新，汽車未來形態是“汽車機器人”—— 自學習、自組織、自進化的組合智能體。
具身智能技術路線尚未定型，基礎設施卻先收斂
具身智能技術路線尚未成形，但基礎設施需求已開始收斂，重點從製造機器人轉向持續迭代機器人能力。百度集團沈抖指出，智能體能力邊界快速擴展，進入規模化部署階段，但機器人學習新任務與跨環境適應性仍待突破。
88小時抵一個人思考4000年，OpenAI核心研究員：除了自我進化，更可怕的是AI正學會“隱藏自己”
AI正在把4000年的人類認知勞動壓縮進88小時，OpenAI研究員Noam Brown坦言連他自己也被進展速度持續震驚。AI正在把過去需要數千年完成的認知勞動壓縮到數天。真正的問題已經不只是模型能否變得更聰明，而是實驗能否跟上、人類能否在模型繼續自我改進前確認它仍然安全。
Agent辦事、花式P圖、動嘴玩電腦……實測Wildcat Lake輕薄本玩AI有多爽
作者 | ZeR0 編輯 | 漠影 桂林依山傍水，連城市的輪廓，都是一座座山勾勒出來的。抬眼一望，便是翰墨丹青般的自然光景，既沉靜婉約，又意境悠遠。這種乾淨的留白之美，早已被古人融入山水畫藝中，幾筆山石，一帶煙雲，餘下的留給水色，也留給看畫的人。 淨，並非空無一物，而是通過剋制的取捨，讓真正重要的東西凸顯出來。這與今年推出的第三代英特爾酷睿處理器（代號Wildcat Lake）的設計理念不謀而合。
吳恩達回應AI末日論:別被科幻敘事帶偏，應解決現實工程問題
吳恩達曾參與創辦Google Brain和Coursera。吳恩達稱，科技行業早期曾放大AI潛在災難性風險，以獲取關注並影響監管方向;近兩週相關討論再次升溫，也可能存在類似動機。他認為AI確實存在現實風險，尤其包括網絡安全等領域，但不認同將人類滅絕風險作為當前AI發展的核心判斷依據。
智譜 GLM-5.3-FlashX 模型上線，更快、更流暢
作者：汪淼 責編：汪淼 評論： 感謝網友 Agent 的線索投遞！9 月 18 日消息，智譜今日宣佈推出 GLM-5.3-FlashX（最高 200 tokens/s），為企業與開發者帶來更快、更流暢的模型體驗。智譜官方表示，GLM-5.3-Flash 此前以“Ox Alpha”之名與全球開發者見面，獲得海內外開發者的廣泛認可，調用量持續攀升。