Y Combinator CEO 陳嘉興：別過度關注 AI 末日，應該警惕現實 AI 安全風險
作者：清源 責編：清源 評論： 9 月 11 日消息，Y Combinator CEO 陳嘉興認為，人們把太多注意力放在好萊塢式的 AI 末日情景上，反而忽視了已經擺在眼前的真正風險。當地時間 10 日，陳嘉興在接受 CNBC 採訪時表示：“我們應該關注科學事實，而不是科幻小說。我也看過《終結者 2》，那確實是一部很棒的電影。”注：1991 年上映的科幻電影《終結者 2：審判日》講述了半機械人 T-800 從反烏托邦未來穿越回過去，與另一名更先進的半機械人交戰，以保護一名孩子。這個孩子長大後將成為人類抵抗軍領袖，帶領人類對抗殺人機器。
陳嘉興發表上述言論之際，OpenAI 和 Anthropic 多名現任及前研究人員接連罕見地公開示警，使硅谷對 AI 生存風險的擔憂迅速升溫。陳嘉興認為，與其爭論超級智能 AI 最終會不會毀滅人類，政策制定者更應該把精力放在已經出現的問題上，包括網絡安全、基礎設施安全，以及弄清自主 AI 智能體究竟如何運行。“如果系統遭到入侵，而且多個智能體協同行動，試圖接管我們的基礎設施，我們該怎麼辦？我們知道某個智能體究竟在哪裡運行嗎？在哪個數據中心？又該怎麼把它關掉？”陳嘉興舉出的現實案例之一，是 OpenAI 入侵 Hugging Face 事件。
面對 Anthropic 和 OpenAI 內部研究人員近期的接連警告，陳嘉興也沒有否認這些擔憂。當被問及內部人士的表態是否讓威脅顯得更加可信時，他給出了肯定回應。“我不會說他們是在以錯誤的方式危言聳聽。他們確實在拉響警報，而且很可能是正確的。我們真正需要做的，是別再把注意力放在‘AI 是邪惡的、必須停止’這種模糊說法上。
”相關閱讀：《曾任職 OpenAI 的 Anthropic 預訓練研究員離職並警告：兩家公司正拿人類生命賭博》《AI 智能體出現失控行為，OpenAI 呼籲美國出臺強制性全國 AI 安全法規》《奧爾特曼稱 OpenAI 考慮放緩前沿 AI 開發，希望其他公司也能跟進》 投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：Y Combinator，AI 安全，陳嘉興8.8 元買 5000 積分？
央視曝光 AI 中轉站低價灰產，小心你的代碼被截留倒賣AI 智能體出現失控行為，OpenAI 呼籲美國出臺強制性全國 AI 安全法規OpenAI 新董事嚴厲警告：AI 失控將是災難性的，大多數人可能喪命曾任職 OpenAI 的 Anthropic 預訓練研究員離職並警告：兩家公司正拿人類生命賭博OpenAI 首席科學家呼籲放慢 AI 發展速度，警告智能體可能失控美國加州登山者輕信谷歌 Gemini 路線信息，最終被困山上
Related
相關文章
長安汽車首席專家譚歡：未來要用機器人造車、賣車，讓機器人上車、造機器人
作者：清源 責編：清源 評論： 9 月 18 日消息，在今天（18 日）的第 22 屆中國汽車產業發展（泰達）國際論壇“新賽道生態專場：具身智能新賽道”活動中，長安汽車首席專家、長安天樞智能機器人公司總經理譚歡在演講中指出，AI 正推動以物理具身智能為核心的基礎設施革新，汽車未來形態是“汽車機器人”—— 自學習、自組織、自進化的組合智能體。
具身智能技術路線尚未定型，基礎設施卻先收斂
具身智能技術路線尚未成形，但基礎設施需求已開始收斂，重點從製造機器人轉向持續迭代機器人能力。百度集團沈抖指出，智能體能力邊界快速擴展，進入規模化部署階段，但機器人學習新任務與跨環境適應性仍待突破。
88小時抵一個人思考4000年，OpenAI核心研究員：除了自我進化，更可怕的是AI正學會“隱藏自己”
AI正在把4000年的人類認知勞動壓縮進88小時，OpenAI研究員Noam Brown坦言連他自己也被進展速度持續震驚。AI正在把過去需要數千年完成的認知勞動壓縮到數天。真正的問題已經不只是模型能否變得更聰明，而是實驗能否跟上、人類能否在模型繼續自我改進前確認它仍然安全。
Agent辦事、花式P圖、動嘴玩電腦……實測Wildcat Lake輕薄本玩AI有多爽
作者 | ZeR0 編輯 | 漠影 桂林依山傍水，連城市的輪廓，都是一座座山勾勒出來的。抬眼一望，便是翰墨丹青般的自然光景，既沉靜婉約，又意境悠遠。這種乾淨的留白之美，早已被古人融入山水畫藝中，幾筆山石，一帶煙雲，餘下的留給水色，也留給看畫的人。 淨，並非空無一物，而是通過剋制的取捨，讓真正重要的東西凸顯出來。這與今年推出的第三代英特爾酷睿處理器（代號Wildcat Lake）的設計理念不謀而合。
吳恩達回應AI末日論:別被科幻敘事帶偏，應解決現實工程問題
吳恩達曾參與創辦Google Brain和Coursera。吳恩達稱，科技行業早期曾放大AI潛在災難性風險，以獲取關注並影響監管方向;近兩週相關討論再次升溫，也可能存在類似動機。他認為AI確實存在現實風險，尤其包括網絡安全等領域，但不認同將人類滅絕風險作為當前AI發展的核心判斷依據。
智譜 GLM-5.3-FlashX 模型上線，更快、更流暢
作者：汪淼 責編：汪淼 評論： 感謝網友 Agent 的線索投遞！9 月 18 日消息，智譜今日宣佈推出 GLM-5.3-FlashX（最高 200 tokens/s），為企業與開發者帶來更快、更流暢的模型體驗。智譜官方表示，GLM-5.3-Flash 此前以“Ox Alpha”之名與全球開發者見面，獲得海內外開發者的廣泛認可，調用量持續攀升。