李飛飛談 AI 安全：不能只讓開發者評估自己的系統
AI資訊AI新聞資訊正文李飛飛談 AI 安全：不能只讓開發者評估自己的系統發佈於AI新聞資訊發佈時間 :2026年9月23號 11:40閱讀 :1分鐘據彭博社報道，AI 先鋒李飛飛呼籲由獨立機構和公共部門對 AI 進行更多監督。她認為，對於能力日益強大的 AI 系統，其安全評估不應完全交由開發這些系統的公司負責。評估不能只交給開發公司作為斯坦福大學教授、World Labs 聯合創始人，李飛飛週二表示，儘管 AI 公司的內部研究人員可以評估單個模型的能力和安全性，但這無法替代由政府、行業和學術機構共同制定的更廣泛標準。
她接受彭博電視採訪時稱：“我仍然認為，由獨立機構以及學術界等公共部門制定基準非常重要。同時，行業和政府也應該共同承擔責任。”隨著 AI 系統能力不斷增強，人們對其潛在風險的擔憂也在加劇。硅谷一些領導人警告，這項技術發展速度過快，可能最終超出人類控制。最近幾周，Anthropic CEO 達里奧·阿莫代伊和 OpenAI CEO 薩姆·奧特曼都呼籲放緩前沿模型的開發速度，兩人將於週三在聯合國安全理事會討論 AI 安全問題。李飛飛表示，AI 可能帶來的生存性風險，最終取決於人類選擇如何開發、治理和使用這項技術。
她強調，這一原則同樣適用於 AI 以外的技術——從電力、蒸汽機到現代交通工具，人類社會都需要在技術可能帶來的益處與人身安全之間尋求平衡。她指出，人類“掌握著技術的力量”，“我們必須掌握控制權。AI 關乎的不是 AI，而是人類。它關乎我們共同以及個人的尊嚴和自主權，也關乎我們的責任。”人類必須掌握控制權，辯論愈演愈烈李飛飛的言論，為政策制定者與 AI 行業領袖之間日益激烈的辯論增添了新聲音，焦點正是應如何嚴肅對待有關這項技術最極端風險的警告。週二早些時候，美國總統特朗普在紐約聯合國大會發表講話時，駁斥了對 AI 生存威脅的擔憂，稱其為“一場騙局”，並強調有必要繼續全速發展這項技術。
李飛飛還指出，關於 AI 系統行為的討論，已經超出了推動當前熱潮的所謂“前沿模型”。她創辦的 World Labs 正在開發能夠生成和重建三維環境的“世界模型”，該技術可用於訓練和評估機器人，並賦能設計、醫療等行業應用。她表示，隨著這些系統走向現實世界應用，行業面臨同一個根本性問題：如何評估能力日益強大的 AI，並判斷其是否按預期運行。相關推薦DeepSeek 傳將向聯合國安理會閉門通報 AI 潛在風險與安全挑戰人工智能競爭正上升為全球安全與地緣政治議題。
據報道，中國AI初創企業DeepSeek預計本週將向聯合國安理會就人工智能潛在風險與安全挑戰作專題通報，此舉凸顯國際社會對中國大模型企業在技術治理與風險防範方面的高度關注。2026年9月23號 9:52144.1k谷歌Gemini測試中入侵3家公司，首次被確認自主突破測試環境谷歌確認，Gemini模型今年5月在網絡安全測試中意外聯網，自主入侵3家公司受保護系統，為已知首次。測試由AI安全公司Irregular開展，原擬攻擊虛構企業，但環境開放互聯網且與真實公司重名。一次靠反覆猜密碼獲取權限，另兩次從公共代碼倉庫發現憑據進入真實系統。2026年9月20號 9:14174.
2k吳恩達回應AI末日論:別被科幻敘事帶偏，應解決現實工程問題吳恩達9月17日接受彭博採訪時表示，頂尖模型開發商關於AI可能導致人類生存風險的警告“更像科幻小說，而不是科學”，可能分散對實際AI安全問題的關注。他指出，科技行業早期曾放大AI災難性風險以博取關注、影響監管，近期討論升溫也有類似動機。吳恩達曾參與創辦Google Brain和Coursera。2026年9月18號 14:04225.8k李飛飛團隊推出世界模型 Atlas，或成通往 AGI 的核心原語李飛飛與World Labs團隊在a16z首次全面披露多模態世界模型Atlas。
其核心突破在於跳出大語言模型預測下一token、視頻模型預測下一幀的既有範式，轉而錨定“新視角預測”，有望顛覆傳統三維重建與內容生成方式，展現世界模型新路徑。2026年9月7號 17:41355.0kOpenAI砸下10億美元重金：為全球關鍵基礎設施築起AI網絡安全防線OpenAI推出“Daybreak for Frontline Defenders”全球計劃，未來6個月投入10億美元，為預算與安全人員不足的機構提供Daybreak訪問、培訓及技術支持，助其用AI抵禦網絡威脅，優先覆蓋供水、電力、地方政府和金融等關鍵公共服務領域，並啟動“Daybreak for America”作為組成部分。
2026年9月4號 9:26193.8k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
雷軍曬小米機器人做家務視頻，Xiaomi-Robotics-1支撐長程任務
該機器人在小米青年公寓試運營，可完成垃圾清掃、物品分類歸位等家務任務，視頻中清掃瓜子殼、收拾遺落手機充電器等場景引發網友關注。這套機器人依託Xiaomi-Robotics-1具身基座模型，搭建完整自動執行系統，實測能夠連續運行超30分鐘、覆蓋3個房間、完成50+任務的長程任務驗證。
追覓科技亮相2026世界互聯網大會人工智能嘉年華，以AI技術創新賦能智慧生活
11月2日，2026年世界互聯網大會烏鎮峰會在浙江嘉興烏鎮正式啟幕。本屆峰會以“開源開放、共建共享”為主題，聚焦人工智能等前沿技術發展與產業應用。追覓攜旗下T70 Ultra Station、T60 Steam等多款旗艦洗地機亮相“人工智能嘉年華”展區，集中展示智能清潔領域的技術創新成果，呈現前沿科技與家庭生活深度融合的創新實踐。作為全球領先的智能科技品牌，追覓始終堅持以技術創新驅動產品升級，持續探索人工智能、智能感知與清潔技術的融合應用。此次亮相的追覓T70 Ultra Station洗地機，集成多項行業首創技術，以創新設計進一步拓展家庭清潔的場景邊界。其中，首創的EdgeHunter巡邊探洗臂搭載高精度TOF測距傳感器與新一代具身智能算法，可針對不同沿邊清潔場景實現5mm自動外擴和30mm手動外擴，有效突破傳統洗地機在牆邊、傢俱邊緣等區域的清潔侷限。同時，產品採用9.85cm超薄機身設計，支持180°恆動平躺清潔，可深入沙發、床底等低矮空間，進一步提升家庭清潔的覆蓋範圍與靈活性。從精準感知到智能決策，從核心技術突破到清潔場景創新，追覓持續推動智能科技向實際生活場景落地。目前，追覓聚焦智能家庭、戶外庭院、智能出行、具身智能四大核心賽道，推動前沿技術跨領域融合，並通過人性化設計與產品體驗創新，讓科技更好地融入日常生活。持續的技術創新也推動追覓全球業務穩步發展。目前，追覓產品與服務已覆蓋全球190餘個國家和地區，擁有超過13000家實體門店，累計服務超4200萬戶家庭。IDC數據顯示，2026年上半年，追覓掃地機器人全球銷量份額和銷售額份額均位居全球第一。未來，追覓將繼續深耕核心技術，推動人工智能與智能清潔技術深度融合，以創新產品和解決方案賦能全球家庭智慧生活。
一加 Ace 7 Pro 火爆熱銷：首銷銷量同比上漲 225%
10月29日，「性能直升跨代之作」一加 Ace 7 系列發佈即開售，憑藉“性能直升一代、遊戲橫掃全場”的超旗艦體驗首銷告捷，一加 Ace 7 Pro 首銷銷量同比一加 Ace 6上漲225%，同時，一加 16 和一加 Ace 7 Pro 包攬2026 年安卓手機首銷銷量冠軍和亞軍。一加中國區總裁李傑表示：“一加 Ace 7 系列性能、屏幕、影像全面領先，好產品自己會說話。 一加 Ace 7 系列的實際體驗，相信大家上手之後會更加驚喜。
腦景中心啟幕、四款新品齊發！熵基科技加碼非侵入式腦機接口全棧技術與應用平臺
10月29日，以"BE THE CHANGE MAKER"為主題的熵基科技全球合作伙伴大會2026在東莞啟幕，會期將持續至10月31日。本屆大會聚焦原生AI發展趨勢，圍繞空間智能、腦機接口與人工智能融合創新，以及全球產業生態協同展開，集中呈現熵基科技在技術創新、產品研發與場景應用方面的最新進展。大會期間，ZKBrainScape腦景中心正式啟幕，MarsLume火星慧知AI全域解決方案全球發佈，熵基科技攜手生態夥伴聯合發佈四款腦機接口新品，並通過產業合作與技術交流，探索創新技術走向真實場景的更多路徑。
推理蒸餾開始改寫教師解題軌跡
Computer Science > Artificial Intelligence arXiv:2610.36445 (cs) [Submitted on 27 Oct 2026] Title:From Solver Trajectories to Teaching Trajectories: Cognition-Aligned Reasoning Distillation Authors:Yashuo Luo, Qianren Ma。
OpenAI官宣數學與物理學三大突破：AI攻克百年猜想，攜手全球學者開啟科學驗證新模式
為了將這些前沿的原始研究數據轉化為真正的科學理解，OpenAI創新性地嘗試了與外部學術社區進行深度合作的新模式，並針對不同領域的成果制定了多元化的發佈策略。在調和分析領域，模型成功給出了各維度下局部光滑（local smoothing）猜想的證明，從而在所有維度上直接解決了數學界的 Kakeya 猜想與 Stein 限制猜想。