DeepMind 研究科學家 Verena Rieser： AI 正值青春期，讓它「聽話」不如教它「懂事」 | ICML 2026

DeepMind 研究科學家 Verena Rieser 在國際機器學習大會（ICML 2026）上發表了一場引人深思的演講，她將當前人工智慧的發展階段比喻為正值青春期的青少年，並提出一個核心觀點：與其要求 AI 系統一味「聽話」，不如引導它學會「懂事」。這個比喻在會場引發廣泛討論，也為 AI 治理與安全研究提供了全新的思考方向。Rieser 指出，人工智慧系統在成長過程中會經歷類似人類發展的階段，從早期的基礎學習到逐漸具備複雜決策能力。然而，目前許多訓練方法過度強調對指令的服從，就像要求青少年對所有規則照單全收，卻忽略了培養他們在真實世界中判斷是非、權衡後果的能力。

她認為，單純的服從訓練可能讓 AI 在面對未經預先定義的邊界案例時，無法做出合適的反應，甚至導致系統失靈或產生非預期行為。為了更具體說明，Rieser 將 AI 的學習歷程比擬為教養青春期孩子。她解釋，如果家長只要求孩子機械式地遵守每一條規定，一旦孩子遇到課本沒教過的道德兩難或現實情境，往往會不知所措。同樣地，AI 系統若只被訓練成「聽話」的工具，就無法應對那些訓練資料中不曾出現的突發狀況。相比之下，讓 AI 「懂事」意味著賦予它理解行為後果、權衡不同價值觀的能力，而非僅僅依照預設規則運作。這場演講中，Rieser 進一步闡述了「懂事」的具體內涵。

她認為，負責任的 AI 系統應該能在沒有明確指令的情況下，主動評估行動的潛在影響，並根據社會常理與倫理框架做出判斷。這並不是要讓 AI 擁有自主意識，而是透過設計階段的訓練機制，讓模型學會在複雜情境中做出合乎人類期待的選擇。她強調，青春期雖然充滿不確定性與混亂，卻也是可塑性最強的階段，若能把握這個黃金時期給予正確引導，將有助於打造更值得信賴的 AI 系統。作為 DeepMind 的資深研究科學家，Verena Rieser 長期致力於對話系統與負責任 AI 的發展。她的研究橫跨自然語言處理、人機互動與 AI 倫理，曾多次在頂尖會議上發表關於 AI 安全與透明度的觀點。

在 ICML 2026 的這場演講中，她呼籲學術界與產業界應從設計階段就融入「懂事」的訓練機制，而不是等到系統部署後才試圖補救。她認為，現有的 AI 治理模型往往側重於事後監管與修正，但這種「頭痛醫頭」的方式無法從根本上解決系統在邊界案例中的失誤問題。Rieser 的觀點在會場引發熱烈討論。不少與會學者認為，這項比喻精準點出了當前 AI 安全研究的一個盲點：過度專注於優化報酬函數與指令遵循，卻忽略了對模型內在判斷力的培養。

有研究人員指出，類似「懂事」的訓練概念其實與對齊研究（alignment research）中的價值學習（value learning）方向不謀而合，但將其類比為青春期教育，能讓更多非技術背景的決策者理解問題的複雜性。也有與會者提出質疑，認為「懂事」的定義本身就充滿主觀性，若由少數開發者決定 AI 應該「懂哪些事」，可能反而會強化既有偏見。對此 Rieser 回應，她所說的「懂事」並非指灌輸特定的道德觀，而是讓 AI 具備能夠理解並反映多元社會價值的靈活性。她建議，在訓練過程中應引入更多樣化的情境模擬與反饋機制，讓模型在與人類互動的過程中動態調整行為。這場演講也觸及 AI 發展的現實挑戰。

Rieser 提到，目前的深度學習模型在大量數據中學習模式，但訓練資料往往無法涵蓋真實世界的所有可能。當系統被部署到醫療、交通、金融等高風險領域時，一個只懂服從指令的 AI 可能因為遇到未見過的條件組合而做出危險決策。她舉例，如果自動駕駛車輛只學會「紅燈停、綠燈行」，卻無法理解警察臨時指揮的意圖，那麼在特殊路口就可能釀成事故。這種「聽話但不懂事」的表現，正是當前 AI 安全亟待解決的核心問題。為了讓 AI 真正「懂事」，Rieser 建議研究團隊在設計階段就應模擬更多邊界案例，並引入類似人類教育中的「價值權衡」練習。

例如，讓 AI 在兩個都「合理」但結果不同的指令之間做出選擇，並根據後續反饋調整決策邏輯。她強調，這不是要讓 AI 取代人類的判斷力，而是讓它成為更可靠的輔助工具，能在人類監督下承擔更多複雜任務。ICML 2026 的這場演講，為 AI 治理領域帶來了新鮮的視角。Rieser 的「青春期」比喻，不僅讓抽象的安全研究變得具體可感，也提醒所有開發者：人工智慧的成長過程需要耐心引導，而非一味壓抑或放任。正如她所說，青春期雖然充滿不確定性，但也是塑造未來的關鍵時刻。若能把握這個階段，給予正確的訓練與引導，AI 將有機會真正成長為人類社會值得信賴的合作夥伴。