OpenAI 開啟 AI 安全飛輪：GPT-Red 如何重新定義模型魯棒性

OpenAI 近日發布了全新的自動化紅隊測試模型 GPT-Red，這項技術突破象徵著 AI 安全防禦正式步入自動化迭代的階段。透過規模化的自博弈訓練，GPT-Red 成功將模型在直接提示注入攻擊中的失敗率壓低至 0.05%，為 AI 系統在自我強化與安全性提升之間建立了可持續運轉的「飛輪效應」。 隨著 AI 系統透過瀏覽器、本地檔案以及各種 API 深度嵌入現實世界，安全邊界已變得比以往更加複雜且脆弱。傳統的紅隊測試雖然在發現漏洞上仍具價值，但其高度依賴人工操作的模式，不僅成本高昂，更難以跟上模型能力指數級增長的速度，也無法產出足夠規模的對抗性資料來強化防禦機制。OpenAI 推出 GPT-Red 的目標，正是為了解決這項瓶頸。 GPT-Red 的核心價值在於它不只能在模型部署前精準定位潛在漏洞，更關鍵的是能夠即時生成大規模的對抗樣本，使模型在訓練階段就開始進行防禦升級，而不是等到上線後才被動修補。這種「在訓練中強化安全」的策略，將安全性內建為模型能力的一部分，而非事後加裝的保護層。 GPT-Red 的訓練過程採用了自博弈強化學習策略。在訓練期間，它會與一組多樣化的防禦方模型進行高頻率的對抗攻防，嘗試各種提示詞注入、邏輯誘導等攻擊手法，持續尋找系統破綻。這種攻防雙方不斷「互搏」的機制，迫使防禦方持續修正策略，而 GPT-Red 也在這場演化競賽中變得越來越犀利。數據顯示，在特定測試場景中，GPT-Red 的攻擊成功率達到了 84%，而人類紅隊成員僅為 13%，顯示出自動化模型在攻擊能力上的顯著優勢。 為了驗證這套系統在真實情境中的效果，OpenAI 進行了一系列嚴苛的壓力測試。其中一項實驗針對一款能自主控制自動販賣機的 AI 智能體，GPT-Red 成功模擬出惡意修改商品價格、竊取訂單等攻擊行為，證明即使在複雜的智能體系統中，自動化攻擊模型依然具備極強的滲透力與破壞潛力。這項案例清楚展現了隨著 AI 智能體自主性提高，安全測試的強度與自動化程度必須同步提升。 目前 GPT-Red 已正式整合進生產模型的訓練流程，並直接帶動了最新版本 GPT-5.6Sol 的安全性表現。實驗結果指出，該模型對提示注入展現出極強的抗性，而這項安全強化並未以犧牲通用能力為代價。系統既沒有出現盲目拒絕合法請求的過度防禦現象，也沒有降低任務執行效率，證明了穩健的安全機制可以與優異的效能並存。 OpenAI 團隊認為，GPT-Red 的成功驗證了 AI 安全「飛輪效應」的可行性——也就是利用更先進的 AI 系統來建構更安全的未來系統。當安全測試能自動化、規模化地進行，並且能將對抗經驗直接回饋到模型訓練中，整個安全防護體系就能隨著 AI 能力的增長而不斷自我強化。 展望未來，隨著運算規模與資料多樣性持續提升，這套自動化安全測試框架極有可能成為下一代模型開發的標準配備。在模型能力不斷進化的過程中，透過 GPT-Red 這類系統建立起持續性的安全檢驗機制，才能確保 AI 在更廣泛的應用場景中始終保持穩固的防線，而不至於因為能力增強而衍生出無法控制的風險。 業界普遍認為，OpenAI 此次推出的自動化紅隊模型不僅是單一產品的進步，更為整個 AI 產業的安全治理提供了新方向。當人工智慧開始處理越來越多的真實世界任務，從對話互動到操控實體設備，安全測試的自動化與規模化將不再是選項，而是必要條件。GPT-Red 的出現，正是補上這塊關鍵拼圖的重要一步。