讓AI Agent學會“及時停手”：華盛頓大學團隊提出上下文工程方法CONVOLVE

當前的 AI Agent 在執行複雜任務時，往往能透過多輪交互調用搜尋、網頁瀏覽與終端工具，逐步完成使用者交辦的工作。然而，現實世界的使用者請求經常模糊不清，目標也不一定可行，這就衍生出一個關鍵問題：Agent 究竟該在何時「停手」？如果任務本身不可行，或在當前的環境條件下根本無法完成，繼續執行只會浪費算力與時間，甚至產生錯誤的結果。華盛頓大學的研究團隊正視了這個痛點，提出名為 Agentic Abstention 的框架，專門探討 Agent 何時應該停止行動。

在此框架的基礎上，團隊進一步設計了一套上下文工程方法 CONVOLVE，全名為 Context Evolution，目的是提升 Agent 的「棄答」能力——也就是讓模型在判斷任務無法順利完成時，主動放棄執行，而不是盲目地繼續嘗試。研究團隊透過多達 28,733 筆實驗結果發現，現有的大多數 Agent 並不容易做到及時棄答。它們往往在證據已經充足、明確顯示任務不可行時，仍持續搜尋、點擊或呼叫工具，無法判斷何時該收手。這也反映出一個重要的現象：單純把模型變大、讓推理能力更強，雖然能在一定程度上減少過度棄答的情形，但未必能提升整體的棄答表現。

換句話說，模型本身的基礎能力、所採用的推理方式，以及底層的 Agent 框架設計，都會直接影響棄答的效果。更大的參數量與更強的回應生成能力，並未直接等同於更精準的停止決策。這凸顯了目前在 Agent 行為控制上，仍有許多值得深入研究的方向。而 CONVOLVE 方法的提出，正是為了填補這塊缺口。實驗顯示，這套上下文工程技術能夠顯著改善 Agent 的棄答能力，而且具有相當強的遷移性。例如，由較小型的語言模型總結出的棄答規則，同樣可以幫助大型模型在面對類似情況時，做出更適當的停止判斷。這項特點讓 CONVOLVE 在實務應用上更具彈性與價值。

從技術面來看，CONVOLVE 並非透過更新模型的內部參數來達成任務，而是專注於優化模型在運行當下所接收的「上下文」。換言之，它不改變模型本身的權重或結構，而是透過調整輸入的提示語與環境資訊，讓模型在每一次交互中，都能更清楚地判斷當前狀況是否已經滿足終止條件。這種「輕量級」的調整方式，對於需要快速部署或頻繁更新 Agent 行為的應用場景來說，特別具有吸引力。因為無須重新訓練模型，就能在既有模型基礎上導入更精準的停止機制，大幅降低運算成本與迭代時間。研究團隊也進一步分析，為何 Agent 會難以學會「停手」。

原因可能來自於訓練資料的偏向：多數訓練情境鼓勵模型盡可能完成任務，即使過程中遭遇困難，也會嘗試不同路徑或多次回饋，直到得出結果。這使得模型在面對明顯的「死路」時，仍傾向於持續嘗試，而非果斷放棄。這樣的行為模式，在自動化客服、網路爬蟲、文件擷取等需要大量自主判斷的任務中，可能造成不必要的資源浪費。例如，當使用者提出的問題本身不完整或資訊不足時，Agent 若能及時告知無法處理，而不是繼續繞圈搜尋，整體用戶體驗反而更好，系統負載也更低。CONVOLVE 的設計理念，正是要為 Agent 建立一套「停止思考」的引導機制。

透過在上下文當中注入判斷棄答時機的規則與範例，讓模型學會在關鍵時刻做出「放棄」的決策，而非一味追求完成。從實驗數據來看，導入 CONVOLVE 後，Agent 在任務不可行場景下的棄答準確率有顯著提升，而且不會對原本可完成任務的正確執行率造成明顯影響。這表示該方法確實能在不犧牲任務成功率的前提下，有效抑制無謂的持續行為。整體而言，這項研究為 AI Agent 的行為控制開闢了新的方向。過去學界與業界多聚焦於如何讓 Agent 更會「做」，卻較少探討「什麼時候不做」同樣重要。

華盛頓大學團隊提出的 Agentic Abstention 框架與 CONVOLVE 方法，正是補上了這塊拼圖，為打造更成熟、更可靠的自動化 Agent 系統提供了具體可行的技術路線。