打造 AI 網安“紅隊”：OpenAI 介紹內部漏洞檢測模型 GPT-Red

OpenAI 於當地時間 15 日正式對外介紹其內部運作的網路安全「紅隊」模型 GPT-Red。這套系統專為自動化執行各種網路攻擊模擬而設計，目的是協助 OpenAI 在產品推出前找出潛在漏洞，進而提升對外模型產品的強健性與安全性。此舉不僅展現 OpenAI 在人工智慧安全領域的具體布局，也反映該公司對模型穩固度的重視程度。 所謂「紅隊」一詞源自軍事與網路安全領域，代表模擬攻擊方的角色，用來測試防禦系統的極限。OpenAI 將此概念延伸至人工智慧模型，透過 GPT-Red 主動扮演攻擊者，嘗試繞過或誘發模型的錯誤行為，例如產生不當內容、洩漏敏感資訊或執行未授權的指令。這樣的測試流程有助於在模型正式上線前，提前發現並修補弱點。 根據 OpenAI 的說法，過去半年以來，從 GPT-5.3 之後的每一個生產模型都已經將紅隊模型納入訓練流程，成為標準作業的一部分。這意味著安全測試不再只是階段性任務，而是貫穿模型開發生命週期的持續機制。OpenAI 相信，這種常態化的紅隊演練能夠顯著提升模型面對惡意攻擊時的韌性。 在具體成效方面，OpenAI 分享了多項數據。偽造思維鏈（Chain-of-Thought）攻擊的成功率從 GPT-5.1 時期的 95% 大幅下降至最新模型的不及 10%，顯示模型對於此類繞道手法的防禦力已有顯著進步。此外，針對最新的 GPT-5.6 Sol 模型，直接提示符注入攻擊的失敗率僅有 0.05%，幾乎完全抵禦了這類常見的攻擊手法。這些數字說明了紅隊模型在訓練過程中扮演的關鍵角色。 GPT-Red 的訓練方式採用自博弈強化學習（self-play reinforcement learning）。在訓練過程中，GPT-Red 本身與一組多樣化的防禦型大型語言模型（LLM）會同時在多種紅隊場景下進行對抗演練。當 GPT-Red 成功誘發目標模型出現有效錯誤時，它會獲得獎勵；反之，防禦模型若能成功抵抗攻擊並順利完成原始任務，也會獲得獎勵。這樣的動態競爭機制，迫使 GPT-Red 不斷演化出更強大、更多變的攻擊策略，同時也帶動防禦模型持續強化。 隨著防禦模型逐漸變得成熟，GPT-Red 也必須同步升級才能再次找到突破口。這種「軍備競賽」式的循環，讓安全管理從一次性修補轉變為持續演進的過程。OpenAI 強調，紅隊模型與實際產品模型之間保持嚴格隔離，避免任何潛在的負面影響蔓延到正式環境中。這樣的隔離設計確保了安全測試不會對對外服務造成干擾。 OpenAI 認為，這套做法已經開啟一個良性的人工智慧網路安全循環。透過現有模型來測試與強化未來模型，不僅能提升魯棒性，還能增強模型的一致性與可信度。換句話說，安全能力本身也能像智慧能力一樣，在迭代中自我改進，形成正向發展的迴圈。 這項技術的公開，也讓外界更清楚看到 OpenAI 在安全防護方面的具體投入。不同於以往僅仰賴人工紅隊或外部測試，GPT-Red 提供了一種可規模化、自動化的測試方案。對於正在快速發展的大型語言模型而言，傳統的安全驗證方式往往趕不上模型更新的速度，自動化紅隊系統正好填補了這個空缺。 值得注意的是，GPT-Red 的訓練場景涵蓋多種攻擊向量，包括提示注入、越獄嘗試、思維鏈操控等。這些攻擊手法都是當前 AI 安全領域的重點關注對象。透過系統性地模擬這些威脅，OpenAI 能夠在模型部署前就累積足夠的防禦經驗。而自博弈強化學習的設計，也讓紅隊模型無需大量人工標註即可自行探索新的攻擊路徑。 從更宏觀的角度看，GPT-Red 的出現代表 AI 安全正在從被動防護轉向主動獵捕。過去，安全團隊往往在漏洞被發現後才進行修補；如今，OpenAI 嘗試在模型訓練階段就植入對抗性測試，讓安全成為模型本質的一部分。這種思維轉變，對整個 AI 產業的開發流程都可能帶來借鏡意義。 雖然 OpenAI 目前尚未公開 GPT-Red 的技術細節或開放外部使用，但這套系統的運作邏輯與成果已經為業界提供了一個可行的方向。隨著 AI 模型的應用範圍不斷擴大，如何確保它們在對抗性環境下仍能穩定運作，將是所有開發者必須面對的課題。OpenAI 藉由 GPT-Red 展示的路徑，或許會成為未來 AI 安全標準的重要參考。