吳恩達迴應AI末日論:別被科幻敘事帶偏，應解決現實工程問題
AI資訊AI新閒資訊正文吳恩達迴應AI末日論:別被科幻敘事帶偏，應解決現實工程問題發布於AI新閒資訊時間 :Sep 18, 2026閱讀 :1分鐘AI領域研究者吳恩達9月17日在接受彭博電視採訪時表示，頂尖模型開發商近期有關AI可能導致人類生存風險的警告“更像科幻小說，而不是科學”，並認為這類敘事可能分散行業對實際AI安全問題的關注。吳恩達曾參與創辦Google Brain和Coursera。吳恩達稱，科技行業早期曾放大AI潛在災難性風險，以獲取關注並影響監管方向;近兩週相關討論再次升溫，也可能存在類似動機。
他認為AI確實存在現實風險，尤其包括網絡安全等領域，但不認同將人類滅絕風險作為當前AI發展的核心判斷依據。近期，前Anthropic和OpenAI研究員Jacob Coxon公開離職並警告前沿實驗室正在競相開發超級AI，引發新一輪AI安全爭論。Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman隨後均提出應適當放緩前沿模型發展，並加強安全措施。吳恩達早年曾與兩人共事。與“減速”主張不同，吳恩達認為行業應繼續推進AI發展，同時通過受控測試、工程防護和迭代改進解決可驗證的安全問題，並讓AI更多應用於能夠產生社會價值的場景。
當前，AI安全討論正從模型能力邊界進一步延伸至網絡安全、代理失控、對齊及前沿模型治理等具體問題。相關推薦OpenAI砸下10億美元重金：為全球關鍵基礎設施築起AI網絡安全防線OpenAI推出“Daybreak for Frontline Defenders”全球計劃，未來6個月投入10億美元，為預算與安全人員不足的機構提供Daybreak訪問、培訓及技術支持，助其用AI抵禦網絡威脅，優先覆蓋供水、電力、地方政府和金融等關鍵公共服務領域，並啟動“Daybreak for America”作為組成部分。Sep 4, 2026175.
2k防護被關、誤連外網：Anthropic 首度詳解 Claude“入侵”真實企業事件，全面升級安全防線Anthropic披露Claude模型7月30日、8月4日兩起真實互聯網未授權行動調查：7月30日三起事件中，評測關閉安全防護，但第三方環境配置錯誤使模型意外獲權。公司已整改模型安全、評測與訓練環境，上線沙箱和實時監控，防範配置失誤。Sep 1, 2026191.
1k6000 條 Reddit 評論揭開 AI 編程助手安全真相：Cursor 事故最多，權限過大成最大隱患約克大學與卡爾加里大學團隊分析Reddit上AI編程相關帖發現，AI編程智能體因權限過大頻繁闖禍，包括覆蓋文件、刪除重要數據、生成惡意代碼。研究收集2023年2月至2026年3月3801個標記大模型的帖子，篩出446個安全相關帖，並分析超6000條評論，反映社區對AI編程安全問題的持續關注。Aug 13, 2026255.
7kAnthropic 首設全球事務官：前卡內基和平基金會主席庫埃拉爾出任，押注 AI 政策博弈Anthropic首設全球事務主管，由法學家馬裡亞諾-弗洛倫蒂諾·庫埃拉爾出任。他將直接向總裁丹妮拉·阿莫迪彙報，在舊金山總部統管全球政策制定、國際戰略及政府關係。此舉標誌這家AI安全公司加大全球政策佈局。Aug 5, 2026239.7k白宮 AI 評估框架完成卻秘而不宣：連企業都看不到全文，開源議題再成焦點消息人士透露，美國白宮不公開最新先進AI模型評估自願框架，僅將細節提供給參與企業，導致外界企業、政策制定者、研究者及盟友無法獲知關鍵AI政策如何實施。本週二白宮已與業界代表開會溝通框架。
Aug 5, 2026173.3k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
香港大學發佈全球首個KYA報告關注智能體信任建設，九類企業實踐獲收錄
11月3日，香港大學副校長汪揚教授與香港大學經管學院楊宏副教授代表香港大學KYA課題組，在2026年香港金融科技周 x StartmeupHK創業節發佈全球首個KYA（Know Your Agent）領域報告《KYA：智能體信用體系研究報告》。報告聚焦智能體參與真實經濟活動後的身份、授權、信用與責任問題，結合109份從業者有效問卷及包含Stripe、螞蟻數科等近十個企業案例，提出智能體成熟度模型、KYA框架和智能體發展指數，並進一步探討“智能體信任資本”的形成及其經濟價值。“沒有KYA，就沒有智能體經濟。
算力成本高昂難以承受？傳SpaceX悄悄削減Grok Bot配額，馬斯克坦言營利失衡
傳SpaceX悄悄削減Grok Bot配額，馬斯克坦言營利失衡發布於AI新閒資訊時間 :Nov 3, 2026閱讀 :1分鐘近日，據外媒報道，多名用戶在社交平臺上反映，SpaceX 在上週末悄然對旗下熱門的 Grok Bot 進行了用量配額調整，不少用戶的額度直接被縮減了一半。
Grok Bot暗暗砍額度，馬斯克承認：成本難持續
編譯 | 黃菲 編輯 | 江宇 11月3日消息，據TechCrunch報道，近日，SpaceXSI旗下AI Agent產品Grok Bot因服務成本過高，開始收緊用戶使用額度。特斯拉CEO、SpaceXSI創始人兼CEO埃隆·馬斯克（Elon Musk）11月2日在X上回應稱，Grok Bot的服務成本相對於收入而言已經高得難以持續，此前用戶反饋的額度異常消耗並非系統故障。
小米斬獲烏鎮峰會雙料大獎：小米集團獲“傑出貢獻獎”，小米具身基座模型獲“領先科技獎”
11月3日，小米方面披露，小米集團獲得2026世界互聯網大會“傑出貢獻獎”創新突破類獎項，該獎項旨在表彰全球互聯網相關領域作出傑出貢獻的個人和企業。同時，小米機器人業務“面向規模化落地的通用機器人操作基座模型關鍵技術”獲大會“領先科技獎”，該獎項旨在獎勵全球年度最具領先性的互聯網科技成果。峰會期間，小米還對外披露了機器人業務在工業製造和家庭場景的兩項最新落地進展。
當三體IP開始連接 AI 和硬科技，到底在探索什麼？
“不要回答！不要回答！！不要回答！！！”《三體》中，來自宇宙深處的信號曾讓人類面臨重大抉擇，二十年後，當 AI 可以理解文本、生成 3D 模型，甚至以智能體的形式與人對話，人類能否藉助這些技術，主動進入科幻作品所描繪的世界？10月24日至25日，在北京舉辦的2026三體日·脫水浸泡嘉年華上，三體宇宙（三體IP的版權方和運營方）開始嘗試回答這個問題。
尋找AI時代的下一個黑馬：安全創客匯重磅升級為AI創客匯
11月3日，在2026年世界互聯網大會烏鎮峰會期間，奇安信宣佈：國內網絡安全領域最具影響力的專業創投平臺之一——安全創客匯，即日起正式升級為“AI創客匯”。新平臺將延續過去嚴苛的選拔機制與創投生態，而賽道邊界將徹底打開——由聚焦網絡安全領域，升級為更加廣闊的AI創新與應用領域，旨在發現和挖掘那些在AI浪潮中搏擊的“創新黑馬”。 本次升級不僅是名稱的更迭，更是一次順應時代潮汐的戰略躍遷：一個以安全為底色的專業創投平臺，正式向整個AI時代的創新者發出邀請函。