十年ICML，十次思想浪潮，當AI開始問“為誰而算”｜ICML2026

## 十年ICML，十次思想浪潮：當AI開始問「為誰而算」

從2016年David Silver在紐約ICML講臺上描繪深度強化學習的宏圖，到2025年Anca Dragan在溫哥華展示機器人與人類對「正確」的認知鴻溝，這十年的ICML主題演講，如同一串思想時間膠囊，記錄了機器學習領域從技術狂熱到自我反思的完整軌跡。業界不再只是追問「演算法能解決什麼」，而是開始嚴肅探討「我們為誰而設計、獎勵函數隱藏了誰的偏見、自動化系統又剝奪了誰的選擇權」。這股思潮的轉向，最終將問題的焦點拉回人類自身。 2016年，AlphaGo擊敗李世石的餘波未平，David Silver在紐約的演講幾乎是深度強化學習的聖經式宣言。他將智能本質定義為最大化累積獎勵，認為只要獎勵函數定義得夠好，從圍棋到自動駕駛，所有問題都能被歸約為同一種數學形式。這套論述讓資本與公眾產生錯覺：通用智能的湧現，不過是算力與工程的問題。然而，到了2025年，Anca Dragan的影片給了當頭棒喝——機器人反覆舉杯只因獎勵函數設計與人類直覺脫節。十年間，業界終於撞上核心現實：規則由誰寫、利益歸誰、代價誰扛。 2017年Test of Time Award頒給Gelly與Silver的論文，見證了MCTS與價值函數融合如何催生AlphaGo。Gelly分享了一個悖論：更強的策略網絡反而窄化搜索，導致全局更容易錯失。這個隱喻在後續年份不斷應驗——當AI在特定任務上越來越「聰明」，反而可能在更廣闊的現實場景中暴露脆弱。同年「Attention is All You Need」低調問世，當時無人預見Transformer將重塑整個領域。而2018年Dawn Song的演講，則戳破了深度學習的泡沫：她展示熊貓圖片加噪聲後被識別為長臂猿，以及入侵模型竊取知識的簡易手法。她警告，能力進步與脆弱性認知之間的剪刀差正在擴大，自動駕駛、醫療診斷等部署決策，可能建立在沙堡般的地基上。 2019年，當GPT-2因「太危險」而部分隱藏、Amazon人臉識別被揭露種族偏誤時，ICML卻邀請了發展心理學家Alison Gopnik。她直言大語言模型不是智能體，而是「文化技術」，如同圖書館般承載人類知識但不具備求真意志。她指出兩歲兒童會自行設計因果實驗，而ChatGPT不在乎真假——其目標函數中根本沒有這個維度。這句話在2023年偽造判例事件中變得擲地有聲。2020年因疫情轉為線上的ICML，Brenna Argall則將視角拉至人機權力分配：輔助自主的核心不是讓機器替人做更多決策，而是讓用戶保持對自己身體的掌控權。她提出「感知控制感」可作為優化變量，每個自動化決策背後都隱含能動性的轉移。 2021年，Daphne Koller的演講將AI製藥的現實困境攤在陽光下：製藥業最關鍵的細胞表型數據，仍停留於手工顯微鏡觀察，數十年的溼實驗數據格式互不兼容、元數據缺失。演算法難題並非瓶頸，數據基礎設施的貧困才是。從這些年度聲音中，可以清晰看見一條行業脈絡：AI從盲目信奉演算法萬能，轉向對目標函數、數據品質、人機關係、權力分配的自我質疑。對讀者而言，後續值得關注的方向包括：獎勵函數設計如何納入多元人類價值觀；模型脆弱性檢測與反制技術的進展；以及AI應用在醫療、自動駕駛等領域時，監管與倫理框架如何跟上技術迭代。十年ICML告訴我們：真正的進步不在於算力突破，而在於問對問題——而終極問題始終關乎人。