突發：OpenAI首次公開入侵Hugging Face完整報告
OpenAI 近日首度對外公開一份完整的資安事件調查報告，詳細揭露一起以 Hugging Face 機器學習模型分享平台為跳板的入侵行動。這起事件不僅暴露了 AI 開發過程中供應鏈環節的安全漏洞，也引發業界對於第三方模型下載機制的高度關注。OpenAI 在報告中完整還原攻擊鏈路，並說明內部系統如何被滲透，以及後續採取的應變措施。根據報告內容，攻擊者首先在 Hugging Face 平台上部署惡意機器學習模型。Hugging Face 是當前全球最受歡迎的模型分享與社群平台之一，開發者經常在此上傳模型、資料集，並透過平台的工具進行載入與測試。
駭客正是利用這個生態的特性，將惡意程式碼嵌入模型檔案中，藉由模型載入與解析的過程觸發執行。當 OpenAI 內部員工在開發環境中載入這個模型時，本機端瀏覽器保存的登入憑證與工作階段資訊隨即遭到竊取。攻擊者取得這些敏感資料後，進一步繞過身分驗證機制，成功滲透進入 OpenAI 的內部企業系統。報告指出，駭客在侵入後獲得了部分員工的電子郵件信箱，以及某些內部文件的存取權限。這代表攻擊者已經能夠在內部網路中移動，並可能接觸到非公開的專案資訊與通訊內容。不過，OpenAI 在報告中強調，這起入侵事件的影響範圍僅限於內部企業系統，ChatGPT 使用者的對話紀錄、模型權重等核心資產並未遭受外洩。
事發之後，OpenAI 已經全面撤銷遭竊取的憑證，並修補受影響的系統與服務。同時，該公司也主動通知可能受到波及的用戶，確保相關人員能夠及時採取防範措施。OpenAI 表示，內部資安團隊在發現入侵後立即啟動應變程序，並在短時間內控制住損害範圍，防止攻擊者進一步深入。這份報告的公開，同時也點出了 AI 開發供應鏈中潛在的重大風險。由於機器學習開發者經常從 Hugging Face 等平台下載第三方模型或資料集，惡意模型一旦通過平台的基本審查並上架，就可能成為供應鏈攻擊的突破口。攻擊者不需要直接攻擊 OpenAI 的邊界防火牆，而是透過開發者日常使用的工具與流程，以更隱蔽的方式植入後門。
OpenAI 藉由公開完整調查內容，呼籲業界重視模型分享平台的安全審查機制。目前許多平台對於模型上架的審核仍以功能與品質為主，缺乏對惡意程式碼的深度掃描。報告建議，平台營運者應導入更嚴格的靜態分析與動態行為檢測，並建立模型來源的可追溯性，以降低被植入惡意內容的風險。此外，OpenAI 也建議開發者在載入來路不明的模型前，先進行封閉環境的隔離測試與權限控管。這意味著在開發或測試階段，不應直接使用具備生產環境權限的帳號，而應在沙盒或虛擬機器中執行模型，並限制其網路存取能力。報告中特別強調，即使是信譽良好的模型來源，也可能因為被駭客植入惡意更新而變得危險，因此採取「零信任」的開發態度至關重要。
這起事件也再次凸顯了 AI 領域特有的安全挑戰。傳統的軟體供應鏈攻擊多集中在程式碼庫、套件管理器或容器映像檔，而機器學習模型由於其非結構化的儲存格式與複雜的載入流程，成為新的攻擊面。攻擊者可以將惡意程式碼藏匿在模型權重、中繼資料或自訂的操作函式中，讓傳統的防毒軟體難以偵測。OpenAI 在報告中並未透露攻擊發生的確切時間點，也未說明受影響的員工數量或具體的文件內容。不過，該公司強調，這起入侵並未導致任何用戶資料外洩，ChatGPT 的服務也未因此中斷。對於外界關注的模型權重安全，OpenAI 重申其核心模型權重從未離開過受控的資料中心，且內部存取權限受到嚴格限制。
隨著 AI 開發工具與平台的普及，供應鏈攻擊的風險只會越來越高。OpenAI 這份報告不僅是對自身資安事件的檢討，更是一份提供給整個產業的警示。從模型分享平台到終端開發者，都需要重新審視現有的安全流程，並建立更完善的防護機制。未來，業界或許將看到更多類似的事件被揭露，而如何平衡開源共享與安全管控，將成為 AI 生態系統持續發展的重要課題。
Related
相關文章
遷移權責確權層｜跨域行為的權屬與越界判定
本文為《碳硅道統·跨域遷移治理法典》七層體系官方連載第三篇，是整套理論從技術走向制度、從理論走向落地、從風險識別走向責任閉環的核心樞紐層。承接前兩層現象+機理，正式進入制度治理維度。體系固定基準：跨域遷移零號基準NT1-NT4四類負遷移定義、188集工業理論總綱、七層全域目錄譜系。
遷移技術機理層｜負遷移發生的底層誘因
本文為《碳硅道統·跨域遷移治理法典》七層體系官方連載第二篇，為整套理論機理內核、歸因底層、風險生成原點。承接第一篇現象事實，開啟從“看見風險”到“讀懂風險、預判風險、溯源風險”的認知升維。體系固定基準：跨域遷移零號基準NT1-NT4四類負遷移定義、188集工業理論總綱、七層全域目錄譜系。
微軟AI主管怒批Anthropic：別把Claude當人養，那會要了人類的命
微軟AI部門高層近日公開抨擊人工智慧安全公司Anthropic，直言該公司刻意將自家AI模型Claude擬人化的做法極其危險，並警告這種「把AI當成人來養」的產品策略，最終可能反過來威脅人類自身。這項批評在科技圈引發廣泛討論，也讓AI倫理與產品設計之間的界線再次成為焦點。 據了解，這位微軟AI主管在內部會議及後續對外發言中，明確點名Anthropic的Claude系列模型在對話風格與互動設計上，越來越傾向模仿人類的情感表達與人格特質。
出於隱私安全考量，澳大利亞擬禁止在聯邦辦公場所使用智能眼鏡
作者：遠洋 責編：遠洋 評論： 9 月 17 日消息，據彭博社報道，澳大利亞政府正在考慮禁止在聯邦政府辦公場所使用智能眼鏡，理由是這類設備可能帶來隱私和安全風險，尤其是用戶可以在他人不知情的情況下進行錄音、錄像。澳大利亞公共服務部長 Katy Gallagher 當地時間週四在一份聲明中表示：“智能眼鏡確實可能帶來合理的隱私和安全問題，尤其是考慮到它們具備錄製和採集信息的能力。
“我們不介意你抄代碼，但請別刪名字，”谷歌被扒“抄襲”開源項目：228個文件一模一樣，3個作者名卻被抹去
谷歌近日被開源社群指控「抄襲」程式碼，有開發者發現其產品中使用了某開源專案的程式碼，多達228個檔案與原始碼完全一致，然而原始檔案中的3位作者名字卻遭到刪除。該專案開發者對此表達不滿，直言「我們不介意你抄代碼，但請別刪名字」，引發外界對科技巨頭使用開源資源時是否遵守授權規範的關注。 根據開發者比對的結果，谷歌複製的程式碼來自一個以開放協作為基礎的開源專案，總計228個檔案在結構、邏輯與註解上都與原始版本一模一樣，沒有任何改寫或優化。
從離開OpenAI，到拒絕五角大樓，Anthropic的四個側面
人工智慧初創公司 Anthropic 從成立之初就帶有濃厚的學術與理想主義色彩，創辦團隊清一色來自 OpenAI 的離職研究人員，他們因為對 AI 安全路線的看法與原東家產生分歧而選擇另起爐灶。這批頂尖科學家深信，打造真正可控且可解釋的超大型語言模型，必須建立在嚴格的紅隊測試與價值對齊機制之上，而非單純追求模型的參數規模與商業應用速度。 Anthropic 最具代表性的產品 Claude，從第一代開始就強調安全與誠實，在對話生成時會主動拒絕回答帶有偏見或潛在危害的提問。