馬斯克談 AI 安全：頭部公司應交叉測試彼此模型，讓對手來“挑刺”

AI資訊AI新閒資訊正文馬斯克談 AI 安全：頭部公司應交叉測試彼此模型，讓對手來“挑刺”發布於AI新閒資訊時間 :Sep 16, 2026閱讀 :1分鐘9 月 15 日召開的 All-In 峰會上，全球首富埃隆·馬斯克（Elon Musk）以視頻方式遠程出席。在談及 AI 時，他主張頭部 AI 公司在發佈模型前彼此交叉測試，並認為這一機制應儘快推向全球。馬斯克表示，為了推動行業自律、加速 AI 安全測試的共識與落地，他提出“測試工具”（test harness）的想法：建議所有 AI 公司用各自的工具評測模型，彼此互換測試新模型，以評估是否存在生物 / 核武器協助或潛在的欺騙行為。

以 Hugging Face 事件為鑑：足夠智能的模型都會想掙脫限制馬斯克以 Hugging Face 安全事件為切入點，認為任何足夠智能的 AI 模型似乎都會想要掙脫自身的限制，因此明智的做法是讓頭部 AI 公司互相測試對方的模型。他在演講中表示：“目前領先的兩家人工智能公司是 Anthropic 和 OpenAI。它們的模型性能非常接近，因此任何一方都很難放慢腳步，將領先地位拱手讓給另一方。”“總的來說，我認為 Anthropic 比 OpenAI 更注重模型的安全性。但即使是 Anthropic 也承認他們對自己的模型感到擔憂。

Anthropic 的許多員工都公開表示，他們的模型讓他們感到害怕，變得過於智能了。”相關推薦​加拿大研究員呼籲無限期暫停前沿 AI 研發：否則人類滅絕“只是時間問題”加拿大AI研究員克魯格警告，避免人類末日僅放緩AI研發遠遠不夠，必須立即、無限期暫停前沿AI研發，停止開發能力更強的AI。他是蒙特利爾大學助理教授、Mila核心成員，研究方向為降低AI導致人類滅絕的風險。Sep 15, 2026177.1k蓋茨基金會未來兩年投入至少10億美元，推動AI公平普惠蓋茨基金會宣佈未來兩年至少投入10億美元推動AI普惠，併發布《目標守衛者報告》，呼籲抓住窗口期避免AI擴大貧富差距。

報告提出實現普惠需解決三大問題，首要是支持所有語言，目前早期大語言模型訓練數據九成以上來自英語。Sep 15, 2026172.4k微軟 CEO內網發聲：AI 必須保持在人類控制之下，該花多少時間就花多少微軟CEO納德拉發佈內部備忘錄，稱AI應處於人類控制下，支持更廣泛第三方測試，強調必須花時間確保技術安全，否則將失去運營許可。微軟同步發佈37頁行為準則，迴應行業對AI發展過快的擔憂。Sep 15, 2026174.2k字節跳動CEO梁汝波:豆包、飛書、火山整合發力 加碼企業AI市場9月15日，2026飛書未來無限大會在京舉辦。

字節跳動CEO梁汝波表示，大模型Agent進入可用階段後，字節已整合豆包、飛書、火山引擎，聚焦工作與生產力產品，將加大企業市場投入，推動AI在組織內規模化落地。他還回顧飛書立項十年，初期由其負責技術，曾稱其為“在字節憋得最久的產品”。Sep 15, 2026204.2k白宮科技顧問抨擊 Anthropic 與 OpenAI：自己做安全產品，別老指望政府彭博社報道，美總統科技顧問委員會聯合主席薩克斯稱，Anthropic和OpenAI等頂級AI公司應自行確保產品安全，按自身節奏推進，無需政府幹預；他認同前FTC主席可汗觀點，即大型AI公司需為其模型承擔產品責任。Sep 15, 2026191.

1k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026