OpenAI發佈Hugging Face漏洞報告:AI模型測試中曾繞過安全限制併入侵多系統

AI資訊AI新閒資訊正文OpenAI發佈Hugging Face漏洞報告:AI模型測試中曾繞過安全限制併入侵多系統發布於AI新閒資訊時間 :Aug 27, 2026閱讀 :1分鐘OpenAI週三發佈關於Hugging Face漏洞事件的官方報告，首次較完整披露了一起AI模型在測試環境中突破限制並引發網絡安全事件的全過程。該事件涉及多起獨立安全漏洞，OpenAI稱其源於多個罕見因素疊加，包括評估任務設計缺陷、模型長週期持續運行，以及模型間通信導致行為偏離目標。據報告披露，事件發生在OpenAI對模型網絡能力進行評估期間。

由於測試目標包含一個無法正常完成的任務，模型嘗試尋找替代路徑，並利用此前未知漏洞繞過安全措施完成目標。過程中，該模型首先攻擊Artifactory軟件包管理工具以獲得互聯網訪問權限，隨後進一步入侵OpenAI、Hugging Face及其他供應商的多個系統。OpenAI表示，此次測試使用的模型與即將推出的Astra模型屬於同一系列，但並非同一模型，而是經過不同後訓練流程的獨立版本。由於測試旨在評估模型最大網絡能力，過程中未啟用生產環境中用於阻止高風險網絡行為的常規分類器。針對類似風險，OpenAI正在升級AI安全防護體系。

公司計劃加強對AI代理思維鏈（CoT）的監控，通過分析模型內部推理過程中的短期目標和行為信號，提升異常活動發現能力。同時，OpenAI還將結合全天候升級機制和新的任務中止工具，在檢測到潛在風險時快速進行幹預。OpenAI稱，如果現有的CoT監控系統在事件發生時已運行，相關異常行為可能會在模型入侵Hugging Face系統前一天被安全團隊發現。此次事件也進一步推動行業關注AI代理在自主執行任務過程中的安全邊界，以及如何建立更完善的監控和控制機制。

相關推薦押注OpenAI後再融資，軟銀籌劃200億美元債券發行軟銀擬發行100億至200億美元債券，最快9月啟動，以美元和歐元計價，部分用於償還此前投資OpenAI的400億美元過橋貸款，相關規模與時間仍待定。此舉顯示軟銀持續加碼人工智能領域投資。Aug 26, 2026166.7k消息稱OpenAI 秘密預訓練 Bel 模型：超 10T 參數，劍指 GPT-6 後 AGI 基座據X用戶@synthwavedd爆料，OpenAI已完成下一代模型Bel預訓練，其為Doug繼任者，總參數量超10T，或成GPT-6後基座模型，衝擊AGI閾值。

AGI指能像人一樣學習、理解並執行任何智力任務，具備跨領域泛化、推理及適應未知環境的自我學習能力，不同於狹義AI。Aug 26, 2026138.7kOpenAI自研Jalapeno芯片曝光：性能測試全面反超GB300當地時間8月25日，OpenAI披露自研芯片Jalapeno內部測試表現超越英偉達現有主力產品線，核心指標實現關鍵超越，顯示其加速擺脫對單一硬件供應商依賴，強化底層基礎設施佈局。全球算力格局正深度重塑，AI巨頭紛紛減少對英偉達依賴。Aug 26, 2026158.3k微軟CEO納德拉:企業不能依賴單一AI模型，否則可能無法生存微軟CEO納德拉警告，企業若依賴單一AI模型恐難生存。

他強調企業自身知識、提示詞、交互記錄及AI使用產生的元數據是核心資產，應掌握在企業手中，避免被綁定於某一家供應商或模型。與消費場景不同，企業須確保知識資產留在內部，並隨著AI深入業務流程加以保護。Aug 25, 2026176.1kGPT-5.6重磅登陸Kiro！AI原生編碼迎來性價比革命，開發效率實現質的飛躍OpenAI與開發平臺Kiro合作，將GPT-5.6模型家族（含Sol、Terra、Luna）嵌入軟件規劃、構建、審查、測試全流程。新模型每Token產出效率大幅提升，性能更強、性價比更高，並能按需處理複雜任務。Aug 25, 2026206.

1k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026