馬斯克談 AI 安全：頭部公司應交叉測試彼此模型，讓對手來“挑刺”
AI資訊AI新閒資訊正文馬斯克談 AI 安全：頭部公司應交叉測試彼此模型，讓對手來“挑刺”發布於AI新閒資訊時間 :Sep 16, 2026閱讀 :1分鐘9 月 15 日召開的 All-In 峰會上，全球首富埃隆·馬斯克（Elon Musk）以視頻方式遠程出席。在談及 AI 時，他主張頭部 AI 公司在發佈模型前彼此交叉測試，並認為這一機制應儘快推向全球。馬斯克表示，為了推動行業自律、加速 AI 安全測試的共識與落地，他提出“測試工具”（test harness）的想法：建議所有 AI 公司用各自的工具評測模型，彼此互換測試新模型，以評估是否存在生物 / 核武器協助或潛在的欺騙行為。
以 Hugging Face 事件為鑑：足夠智能的模型都會想掙脫限制馬斯克以 Hugging Face 安全事件為切入點，認為任何足夠智能的 AI 模型似乎都會想要掙脫自身的限制，因此明智的做法是讓頭部 AI 公司互相測試對方的模型。他在演講中表示：“目前領先的兩家人工智能公司是 Anthropic 和 OpenAI。它們的模型性能非常接近，因此任何一方都很難放慢腳步，將領先地位拱手讓給另一方。”“總的來說，我認為 Anthropic 比 OpenAI 更注重模型的安全性。但即使是 Anthropic 也承認他們對自己的模型感到擔憂。
Anthropic 的許多員工都公開表示，他們的模型讓他們感到害怕，變得過於智能了。”相關推薦加拿大研究員呼籲無限期暫停前沿 AI 研發：否則人類滅絕“只是時間問題”加拿大AI研究員克魯格警告，避免人類末日僅放緩AI研發遠遠不夠，必須立即、無限期暫停前沿AI研發，停止開發能力更強的AI。他是蒙特利爾大學助理教授、Mila核心成員，研究方向為降低AI導致人類滅絕的風險。Sep 15, 2026177.1k蓋茨基金會未來兩年投入至少10億美元，推動AI公平普惠蓋茨基金會宣佈未來兩年至少投入10億美元推動AI普惠，併發布《目標守衛者報告》，呼籲抓住窗口期避免AI擴大貧富差距。
報告提出實現普惠需解決三大問題，首要是支持所有語言，目前早期大語言模型訓練數據九成以上來自英語。Sep 15, 2026172.4k微軟 CEO內網發聲：AI 必須保持在人類控制之下，該花多少時間就花多少微軟CEO納德拉發佈內部備忘錄，稱AI應處於人類控制下，支持更廣泛第三方測試，強調必須花時間確保技術安全，否則將失去運營許可。微軟同步發佈37頁行為準則，迴應行業對AI發展過快的擔憂。Sep 15, 2026174.2k字節跳動CEO梁汝波:豆包、飛書、火山整合發力 加碼企業AI市場9月15日，2026飛書未來無限大會在京舉辦。
字節跳動CEO梁汝波表示，大模型Agent進入可用階段後，字節已整合豆包、飛書、火山引擎，聚焦工作與生產力產品，將加大企業市場投入，推動AI在組織內規模化落地。他還回顧飛書立項十年，初期由其負責技術，曾稱其為“在字節憋得最久的產品”。Sep 15, 2026204.2k白宮科技顧問抨擊 Anthropic 與 OpenAI：自己做安全產品，別老指望政府彭博社報道，美總統科技顧問委員會聯合主席薩克斯稱，Anthropic和OpenAI等頂級AI公司應自行確保產品安全，按自身節奏推進，無需政府幹預；他認同前FTC主席可汗觀點，即大型AI公司需為其模型承擔產品責任。Sep 15, 2026191.
1k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
美國 AI 巨頭提議開發減速，歐洲同行和政界並不認同
作者：清源 責編：清源 評論： 9 月 18 日消息，據路透社今天（18 日）報道，此前，阿莫迪、奧爾特曼和馬斯克先後發出警告，能力不斷增強的 AI 系統可能帶來風險，故有必要控制其發展節奏，但歐洲企業和官員對此表現出明顯懷疑。法國初創企業 Mistral 在聲明中指出，這些風險早在幾個月前就已十分明確了。
MiniMax Code CLI 正式開源，在評測中取得 76.7% 的任務通過率
作者：沁滄（實習） 責編：沁滄 評論： 感謝網友 Domado 的線索投遞！9 月 18 日消息，MiniMax 今晚宣佈，MiniMax Code CLI 的 v0.4.12 版本面向全球開發者正式開放，並且以 MIT 協議正式開放源代碼。
北京發佈“詞元經濟十條”：高標準建設詞元工廠，推動關鍵核心技術攻關
作者：浩渺 責編：浩渺 評論： 感謝網友 蛋殼兒 的線索投遞！9 月 18 日消息，北京市經濟和信息化局今日宣佈，北京市“詞元經濟十條”正式發佈。為貫徹落實《國務院關於深入實施“人工智能＋”行動的意見》（國發〔2025〕11 號），率先培育智能經濟新形態，以詞元（Token）為抓手，發展詞元經濟新增量，制定《北京市加快詞元經濟發展的行動方案（2026—2028 年）》（注：以下簡稱《行動方案》）。
PrismML Releases Ternary Bonsai 2 27B: A 5.9 GB Apache 2.0 Model Retaining 98.2% of Qwen3.8 27B Performance
PrismML has released Ternary Bonsai 2 27B, a ternary-weight version of Qwen3.8 27B. The language model occupies 5.93 GB, against 53.80 GB in FP16. PrismML reports that it keeps 98.2% of the parent model’s average across 20 benchmarks.
OpenAI剛曝光循環架構，這家公司更早將其用於世界模型
鍵詞只有一個：循環。 Astra採用了一種被稱為“循環深度”（Recurrent Depth）的架構，本質是讓同一組Transformer層被反覆複用，用更少的參數實現更深的計算。 這被外界視為OpenAI對傳統“堆參數、堆算力”路線的一次重大修正——不再只是把模型做大，而是讓模型學會“反覆思考”。 消息一齣，整個AI社區迅速升溫。
千問辦公接入高德門店經營專家套件 提升實體店選址與經營效率
此項新功能自9月18日起正式上線，用戶只需在千問辦公添加相應套件並完成高德賬號授權，即可實現從門店選址到日常經營分析的全鏈路工作。隨著實體商業的不斷發展，傳統的人工選址和經營分析方式顯得效率低下且容易出錯。個體創業者在開新店時，往往需要花費大量時間進行實地勘察，整體耗時可達一週，而商家在監測門店熱度變化及競爭對手動態時，也面臨數據整理繁瑣、分析結果不準確的問題。