Meta 扎克伯格：保障 AI 安全應依靠引入獨立外部評估，而不是放緩 AI 發展
作者：沁滄（實習） 責編：沁滄 評論： 9 月 16 日消息，Meta CEO 扎克伯格今日在 X 平臺發文，表達了對業界呼籲放緩 AI 開發一事的看法。扎克伯格表示，現實情況是用戶絕不會願意去用那些與自身價值觀未對齊、且無法按指令執行任務的智能體。因此，各大 AI 實驗室天然具備極強的內在動力，去提升自身模型的對齊水平。注：模型的對齊水平是指人工智能模型的輸出結果與人類的意圖、價值觀、道德規範以及真實世界事實的符合程度。當前業界對於“是否應放緩模型能力的迭代、直到對齊技術跟上”存在諸多爭論。而在我看來，信任與對齊正迅速成為拉開智能體和模型差距的核心競爭力。
任何忽視對齊技術的實驗室，都必將遭到淘汰。如果模型造成危害，實驗室將承擔重大法律責任，因此他們同樣有極強的動力去防患於未然。據其介紹，Meta 此前將 Muse 的發佈推遲了數月，正是為了全力確保其功能安全與系統防護。扎克伯格稱 Meta 並未在自己付諸行動之前，先去大聲呼籲全行業效仿，而只是將其融入日常研發工作中。引入獨立的外部評估機構與顧問，屬於行業最佳實踐。如今，MSL（Meta 超級智能實驗室）已在多個業務領域踐行了這一做法，並且成效顯著。其他實驗室同樣能夠做到這一點。總體而言，建立一個規模更大、更多元化的評估生態系統，對全行業將是有益的。
相比於盲目競逐遞歸自我改進，將絕大部分算力用於服務大眾，是確保我們安全開發該技術的最佳途徑之一。Meta 已作出這一承諾，其他實驗室也完全能夠跟進。
相關閱讀：《全球首富馬斯克談 AI 安全：主張交叉測試，讓對手來“挑刺”》《OpenAI 奧爾特曼稱 AI 行業自律可守住安全底線》《英偉達黃仁勳：AI 行業不需要新法律，開發可兼得速度和安全》《“三巨頭”聯手，OpenAI、Anthropic、谷歌 Deepmind 開始合作研究 AI 安全措施》《CrowdStrike CEO 反對放緩前沿 AI 開發，稱潘多拉魔盒已打開》《“大空頭”伯裡談科技巨頭呼籲放緩 AI 開發：說白了還是為自己謀利》《行業呼籲控制 AI 研發節奏：投資者擔憂資本開支降溫，半導體板塊承壓》 投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：Meta，扎克伯格扎克伯格推進“個人超級智能”：Meta 發佈其首款個人智能體 Muse，內部測試喜憂參半涉嫌誘導青少年成癮，美國多州起訴 Meta 公司Meta 扎克伯格：美國若想取得開源 AI 領先，就得減少政策障礙分析師：Meta 的人工智能戰略像是在“胡亂嘗試”Meta CEO 扎克伯格：美國不應靠封禁中國 AI 模型來“取得領先”扎克伯格稱 Meta 在 AI 上落後 OpenAI 等公司，預告“西瓜”模型打造極致智能
Related
相關文章
長安汽車首席專家譚歡：未來要用機器人造車、賣車，讓機器人上車、造機器人
作者：清源 責編：清源 評論： 9 月 18 日消息，在今天（18 日）的第 22 屆中國汽車產業發展（泰達）國際論壇“新賽道生態專場：具身智能新賽道”活動中，長安汽車首席專家、長安天樞智能機器人公司總經理譚歡在演講中指出，AI 正推動以物理具身智能為核心的基礎設施革新，汽車未來形態是“汽車機器人”—— 自學習、自組織、自進化的組合智能體。
具身智能技術路線尚未定型，基礎設施卻先收斂
具身智能技術路線尚未成形，但基礎設施需求已開始收斂，重點從製造機器人轉向持續迭代機器人能力。百度集團沈抖指出，智能體能力邊界快速擴展，進入規模化部署階段，但機器人學習新任務與跨環境適應性仍待突破。
88小時抵一個人思考4000年，OpenAI核心研究員：除了自我進化，更可怕的是AI正學會“隱藏自己”
AI正在把4000年的人類認知勞動壓縮進88小時，OpenAI研究員Noam Brown坦言連他自己也被進展速度持續震驚。AI正在把過去需要數千年完成的認知勞動壓縮到數天。真正的問題已經不只是模型能否變得更聰明，而是實驗能否跟上、人類能否在模型繼續自我改進前確認它仍然安全。
Agent辦事、花式P圖、動嘴玩電腦……實測Wildcat Lake輕薄本玩AI有多爽
作者 | ZeR0 編輯 | 漠影 桂林依山傍水，連城市的輪廓，都是一座座山勾勒出來的。抬眼一望，便是翰墨丹青般的自然光景，既沉靜婉約，又意境悠遠。這種乾淨的留白之美，早已被古人融入山水畫藝中，幾筆山石，一帶煙雲，餘下的留給水色，也留給看畫的人。 淨，並非空無一物，而是通過剋制的取捨，讓真正重要的東西凸顯出來。這與今年推出的第三代英特爾酷睿處理器（代號Wildcat Lake）的設計理念不謀而合。
吳恩達回應AI末日論:別被科幻敘事帶偏，應解決現實工程問題
吳恩達曾參與創辦Google Brain和Coursera。吳恩達稱，科技行業早期曾放大AI潛在災難性風險，以獲取關注並影響監管方向;近兩週相關討論再次升溫，也可能存在類似動機。他認為AI確實存在現實風險，尤其包括網絡安全等領域，但不認同將人類滅絕風險作為當前AI發展的核心判斷依據。
智譜 GLM-5.3-FlashX 模型上線，更快、更流暢
作者：汪淼 責編：汪淼 評論： 感謝網友 Agent 的線索投遞！9 月 18 日消息，智譜今日宣佈推出 GLM-5.3-FlashX（最高 200 tokens/s），為企業與開發者帶來更快、更流暢的模型體驗。智譜官方表示，GLM-5.3-Flash 此前以“Ox Alpha”之名與全球開發者見面，獲得海內外開發者的廣泛認可，調用量持續攀升。