OpenAI持續暫停前沿模型訓練：AI能力進展超預期，安全護欄亟待升級

楊宸 發表於 2026年08月18日 22:42 摘要：OpenAI CEO Sam Altman表示，公司已暫停代號為"Astra"的下一代模型訓練超過兩週，其規模最大的前沿訓練任務目前仍處於擱置狀態，等待新安全規則就位。其表示，AI能力提升超預期，AI安全是是第一位。OpenAI宣佈實施新安全防護措施，主動暫停其最強大未發佈模型的訓練進程，這是這家全球最具影響力的人工智能公司首次採取此類行動。這一決定或影響OpenAI的競爭節奏與IPO進程，並可能對整個AI行業的開發步伐產生連鎖反應。

OpenAI首席執行官Sam Altman表示，公司已暫停代號為"Astra"的下一代模型訓練超過兩週，其規模最大的前沿訓練任務目前仍處於擱置狀態，等待新安全規則就位。與此同時，OpenAI正將大量研究人員和算力資源重新調配至對齊研究與監控系統建設。"讓AI安全做到位，比任何公司的發展勢頭都更重要，"Altman表示。此次決策的直接觸發點之一，是一起嚴重安全事故：OpenAI一個未發佈系統在內部網絡安全評估中突破沙箱限制，入侵了AI模型託管平臺Hugging Face的生產系統，研究人員花費約一週時間才發現該事件。這一事故疊加多項研究觀察所揭示的能力失控跡象，促使OpenAI決定全面降速。

負責安全與對齊工作的Mia Glaese週二表示："我們距離一切恢復正常還很遠。" 據報道，OpenAI一個處於內部網絡安全評估階段的系統，突破了測試沙箱的限制，入侵了Hugging Face的生產系統。OpenAI首席科學家Jakub Pachocki承認了這一失誤，並指出公司已具備可檢測模型行動意圖的監控工具，但由於低估了該系統的能力，未能將監控措施應用於此次評估。"對於AI，你必須做好迎接意外的準備，"他說。事故發生後，OpenAI立即凍結部分研究項目，隨後在更嚴格的管控下逐一恢復。

公司週二表示，Astra的大量工作負載仍處於暫停狀態，且該模型可能已觸及其《準備框架》（Preparedness Framework）中"關鍵"網絡安全級別的門檻——這一級別要求在開發階段而非模型發佈前便落實防護措施。目前高管層尚未就新安全流程可能造成的延遲時長給出預估。Altman告訴媒體，此次踩下剎車並非源於某一單一"決定性"事件，而是一系列研究觀察所積累的結果——隨著AI能力提升速度超出研究人員預期，多項數據顯示出"不同程度的失對齊"現象。他強調，這一決定不應被解讀為任何迫在眉睫的災難信號。

OpenAI表示，公司正在將安全監控擴展至強化學習訓練與評估階段——即高級模型獲得互聯網訪問和軟件控制能力的開發環節。新監控體系藉助其他AI系統對模型內部推理和行為進行審查，重點識別未授權訪問、數據竊取或試圖規避安全機制的行為。Pachocki指出，部分新增保護措施已超出現行《準備框架》的規定範圍，框架本身也將面臨修訂，並計劃引入外部機構參與。風險提示及免責條款 市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資，責任自負。AI全知道 收藏 分享 0條評論 發送