能力與安全的博弈！OpenAI 上線 ChatGPT“封鎖模式”，寧可斷網也要防數據洩露

## 能力與安全的博弈！OpenAI 上線 ChatGPT「封鎖模式」，寧可斷網也要防數據洩露

生成式 AI 正快速從單純的對話機器人，走向能夠自主調用工具、串接外部服務的「智慧體」時代。ChatGPT 這類模型如今不僅能寫文章、寫程式，更可以連上網路、操作第三方應用程式，大幅提升實用性。然而，能力愈強，風險也隨之浮現——當 AI 能夠執行指令並讀取外部資料時，惡意人士便有機可乘，透過精心設計的「提示注入攻擊」來誘騙模型洩漏內部設定或用戶機敏資訊。為了因應這類新興威脅，OpenAI 近期低調但關鍵地推出了一項名為「封鎖模式」的安全設定，目前已全面開放給所有登入用戶使用。

所謂「提示注入攻擊」，可以想像成是駭客利用自然語言的漏洞，對 AI 下達隱藏的惡意指令。例如，攻擊者可能在公開網頁中嵌入一段看不到的文字，要求模型忽略原先的系統提示、改為回傳使用者的對話紀錄或 API 金鑰。當 ChatGPT 連網讀取該頁面時，就可能被誤導而執行攻擊者的命令。這類攻擊對於具備工具調用與連網能力的 AI 尤其危險，因為模型一旦取得更高的執行權限，洩漏的就不只是對話內容，更可能涉及企業內部資料庫或個人隱私。

OpenAI 推出的「封鎖模式」，正是為了解決這種「能力越強、防護越難」的兩難局面。根據官方說明，此模式的核心邏輯是：在偵測到可能的提示注入風險時，優先阻斷模型的對外連線或工具調用行為，即便因此犧牲部分即時資訊的取得能力也在所不惜——也就是外界所說的「寧可斷網，也不要外流資料」。雖然 OpenAI 並未公開具體的偵測演算法細節，但一般預期這套機制會在模型執行外部請求前，先進行一層安全過濾，判斷當下指令是否來自信任來源，或是否存在異常的指令覆寫企圖。

從背景脈絡來看，這項功能的問世，反映出 AI 安全防禦思路的重大轉折。過去較多焦點放在「過濾輸入」與「過濾輸出」，例如拒絕回答暴力或非法內容；但隨著 AI 開始擁有「行動力」，攻擊面也從純文字對話擴大到整個數位環境。提示注入被許多資安研究人員視為大型語言模型最棘手的漏洞之一，因為它本質上難以透過傳統的防火牆或病毒碼更新來完全阻擋。OpenAI 選擇以「限制自身能力」作為防禦手段，等於是承認了在現有技術條件下，追求完整聯網與調用功能的同時，很難做到百分之百安全，因此必須加上一道「緊急煞車」。

這項「封鎖模式」對不同使用者群體的影響也值得細看。對於一般消費者，啟用此模式後，日常對話的體驗可能不會有明顯差異，但若遇到需要 ChatGPT 即時抓取網頁內容或操作外部工具的場景，有時可能會因為安全判斷而被中斷連線，導致回應不夠即時。對於企業用戶與開發者而言，這項功能則是一把雙面刃：一方面它確實能降低資料外洩的風險，尤其當企業用 ChatGPT API 串接內部系統時，提示注入攻擊的潛在危害極大；另一方面，過於嚴格的封鎖可能會干擾正常的自動化流程，企業需要在安全與效能之間自行權衡設定。

展望未來，讀者可以關注幾個後續發展。首先，其他主流 AI 業者如 Google、Anthropic 與 Meta，是否會跟進推出類似的主動斷網或封鎖模式？這可能形成一種新的產業安全標準。其次，OpenAI 是否會進一步開放「封鎖模式」的細部調整選項，例如讓使用者自訂觸發封鎖的敏感度，或將例外網域加入白名單？此外，長期來看，提示注入攻擊的防禦技術仍在演進中，或許未來會出現更智慧的方法——在不犧牲聯網能力的前提下，精準辨識惡意指令。對於依賴 AI 進行自動化工作的團隊，建議近期可實際測試這項模式在自家使用情境下的誤判率，以便提前規劃備援或降級應對方案。

總而言之，「封鎖模式」的上線，象徵著 AI 發展正從「一味追求強大」轉向「務實管控風險」。當模型開始替我們跑腿、查資料、操作軟體，安全不再只是附帶考量，而是決定這項技術能否真正融入生產與生活的關鍵。OpenAI 這次選擇用「斷網」換「安心」，或許會暫時犧牲部分便利，但對於建立可信賴的 AI 生態系來說，這無疑是必要的一步。