十年ICML，十次思想浪潮，當AI開始問“為誰而算”｜ICML2026

作者｜吳思夢編輯｜岑峰 引言： 2016年6月，紐約。David Silver站到了ICML的講臺上，用66頁幻燈片，從Q-Learning一路推到AlphaGo。他傳遞出一種信念：把深度網絡嫁接到強化學習上，通用智能的湧現就只是算力和工程問題。彼時距AlphaGo在首爾4∶1擊敗李世石僅三個月。 十年後的2025年7月，溫哥華。Anca Dragan——Google DeepMind Gemini後訓練的聯合負責人，在現場播放了一段視頻：一個機器人機械臂舉起杯子，太高了。一隻手伸進畫面把它壓下來。手鬆開。機器人又舉上去了。“不是機器人笨，”她說，“是獎勵函數在逼它做它認為‘正確’的事。只是我們定義的‘正確’和人類想的‘正確’，根本不在一個頻道上。”從Silver到Dragan，作為機器學習領域歷史最悠久的頂級會議，ICML歷經十年變遷，每年的重磅演講都像是一粒時間膠囊。它們記錄的不僅是算法的迭代，更是整個學科對“什麼才是真正的問題”的思想倒帶。AI科技評論對10年演講精華進行打撈，發現一條清晰的行業軌跡：AI從盲目相信算法能擺平一切，走向了對“解決”本身的自我質疑；從把目標函數當成從天而降的既定真理，到終於撞向了最核心的現實——誰在寫規則、為了誰的利益、又付出了誰的代價。 技術高舉十年後，行業兜兜轉轉，最終回到了問題的起點：人本身。 以下，是這十年的十個聲音。 一、2016·紐約——David Silver：深度強化學習的黎明 2016年6月19日，ICML在紐約召開。三個月前，AlphaGo剛在首爾以4:1擊敗李世石。這場比賽在亞洲的收視人數超過2.8億。David Silver——AlphaGo的首席架構師，在ICML上講“Deep Reinforcement Learning”時，整個會場人滿為患，Silver在ICML講臺上展示的，是這臺機器背後的全部數學。 視頻鏈接：https://videolectures.net/videos/rldm2015_silver_reinforcement_learning David Silver的演講本質上是一張路線圖。從Q-Learning到Policy Gradient，從Actor-Critic到Experience Replay，再到AlphaGo的蒙特卡洛樹搜索與深度價值網絡的融合。66頁幻燈片乾淨利落，核心邏輯像數學定理一樣清晰：深度網絡負責“看”，強化學習負責“決策”，合在一起就是一個通用問題求解器。 他傳遞的核心觀點是，如果獎勵函數定義得足夠好，強化學習就能在任何任務上超越人類。他在講臺上展示了AlphaGo的技術架構，他認為，智能的本質是最大化累積獎勵。棋盤上的“贏”是無需質疑的目標，物理世界中的一切問題，諸如自動駕駛、機器人控制、蛋白質摺疊等都可以被歸約為同一形式。 今天回看，當年AlphaGo聚光燈下的勝利也讓公眾和資本產生了一種錯覺：既然AI能在圍棋中擊敗人類，那麼解決一切也只是算力和工程問題。 二、2017·悉尼——Sylvain Gelly & David Silver：一個精準兌現的十年賭約 2017年的ICML Test of Time Award頒給了Gelly、Silver等人在2007年發表的一篇論文。這篇論文做了一件事：把在線知識（MCTS的樹搜索）和離線知識（從經驗中學習的價值函數）融合進圍棋AI——這正是AlphaGo的底層邏輯。視頻鏈接：https://youtu.be/Bm7zah_LrmE?si=-AGa7qCGW5niOY2H Gelly在悉尼展示了一張表格：從2007年到2017年，計算機圍棋的Elo等級分從1800漲到了4500。一條光滑的上升曲線。他講了一個私人故事：十年前他和同事打賭——十年內，計算機圍棋能打敗人類職業棋手。對方不信。2016年AlphaGo擊敗李世石，提前一年兌現。 Gelly還講了一個他自己驗證的悖論：更強的策略網絡反而讓Rollout表現更差，因為好策略把搜索剪窄了——局部做得越好，全局越容易錯過。這條隱喻，即將在後續的年份裡被反覆應驗。 但站在今天看2017年，最意味深長的不是臺上的賭約。ICML開幕前兩個月，一篇題為“Attention is All You Need”的論文掛上了arXiv。論文提出了一個在後來影響深遠的觀點路徑——Transformer。那年NIPS、ICML和ICLR加起來有超過3000篇論文，“Attention is All You Need”只是其中之一，甚至不算最受關注的那篇。當時幾乎沒有人意識到它意味著什麼。而在同一年7月，中國國務院印發了《新一代人工智能發展規劃》，AlphaGo的餘燼未消，但人工智能的宏觀圖景已經開始靠近。 三、2018·斯德哥爾摩——Dawn Song：深度學習是一座沙堡 2018年的ICML是在一股寒流中召開的。四個月前，劍橋分析獲取8700萬Facebook用戶數據的醜聞曝光。Dawn Song在斯德哥爾摩的講臺上沒有談劍橋分析，她談的是更基礎、也更令人不安的東西：深度學習系統在結構上是脆弱的。視頻鏈接：https://slideslive.com/38922550/invited-talk-ai-security-challenges-lessongs-future-directions?ref=search-presentations 她展示了一張熊貓圖片——加上精心構造的噪聲後，被模型識別為“長臂猿”。以及如何用查詢API的方式偷走一個商業化圖像分類模型：不需要侵入服務器，不需要偷代碼，只需要發送足夠多的請求並觀察輸出。也展示了訓練階段植入後門的可能性：給路牌貼幾張特製的貼紙，自動駕駛汽車會把停車標誌誤讀為限速標誌。也就是說，你花了十年搭建的、在ImageNet上超越人類準確率的模型，根本上經不起一次有針對性的攻擊。 Dawn Song認為，這個領域在能力上的進步和在對脆弱性認知上的滯後之間，存在一個不斷擴大的剪刀差。你越急著把模型部署到現實世界，如自動駕駛、人臉識別、醫療診斷——這個剪刀差就越危險。從2025年往回看，Song的演講是一個預言。她沒有預見到對抗攻擊會演變成Prompt Injection，沒有預見到模型竊取會變成用DeepSeek蒸餾OpenAI的模型。她預見的是更深層的東西：這個領域所建立的一切都是基於脆弱的地基。 四、2019·長灘——Alison Gopnik：那個說“大模型不是智能”的心理學家 2019年的AI界被一件事圍繞：OpenAI發佈GPT-2後宣佈“太危險，不能全部公開”。支持者說是負責任的剋制，反對者說是危險的安全化表演。同一個月，有人員研究發現，亞馬遜面部識別對深色皮膚女性的錯誤率比淺色皮膚男性高31%。Deepfake開始氾濫。此時ICML的講臺上，站著一個“局外人”。 Alison Gopnik，伯克利的發展心理學家，職業生涯中主要研究兒童怎麼學習。她跟深度學習唯一的交集是她丈夫——Alvy Ray Smith，計算機圖形學先驅，Pixar的聯合創始人之一。 ICML為什麼要請她做Keynote？或許可以嗅到一種可能，這個領域開始覺察到，並逐漸懷疑自己建造的“智能”根本不像智能，但不知道不像在哪裡。 於是不得不坐下來，去聽一位研究“嬰兒是如何理解世界”的學者，給他們上一堂關於真正智能的啟蒙課。視頻鏈接：https://www.youtube.com/watch?v=53sQCXi5HPw Gopnik的演講標題是《What Four-year-olds Can Do and AI Can’t (Yet) 》。她說，大語言模型不是“智能體”（agent），是“文化技術”（cultural technology）。像寫作、印刷術、圖書館一樣，是一種讓個體獲取其他人類積累的知識的工具。“你問‘GPT比我知道得更多嗎’——這個問題本身就是錯的。圖書館比我知道得更多嗎？圖書館不是一個人。” 然後她調出了更鋒利的對比。兒童做的是“真相發現”（truth-seeking）。兩歲小孩會自己設計因果實驗：挖沙子觀察怎麼塌、把水倒在不同杯子裡、反覆扔勺子確認重力不是隨機事件。“ChatGPT不是產生幻覺，它只是不在乎真假。它的目標函數里沒有這個維度。”這句話在2019年聽起來像哲學評論。 2023年，當ChatGPT捏造法庭判例導致律師被處罰，當它給一位澳大利亞市長憑空編造了一樁賄賂罪，Gopnik在2019年看穿的觀點突然變得擲地有聲。 五、2020·線上——Brenna Argall：當算法進入人的身體，誰在適應誰 2020年7月，ICML本該在維也納召開，最終變成了一個Zoom會議，會議有10800人次觀看，來自75個國家。COVID讓“遠程”“輔助”“自動化”變成了幾億人的共同體驗。Brenna Argall的Keynote主題是《Human and Machine Learning for Assistive Autonomy》（輔助自主的人類和機器學習）。 Argall是西北大學Assistive & Restorative Technology Lab的負責人。她的實驗室名字本身就是聲明：技術是來輔助和恢復人的能力的，不是來替代的。但她的問題不是“如何造更好的輪椅”，而是：當機器和人共享控制權時，誰在適應誰？視頻鏈接：https://slideslive.com/38930518/human-and-machine-learning-for-assistive-autonomy 傳統輔助技術的邏輯是“機器決策，人接受”——自動化程度越高，人需要做的事越少。Argall把這個邏輯翻轉過來：真正的輔助自主，不是讓機器替人做更多決定，而是讓人保持對自己身體和行動的掌控權。她展示了實驗室開發的各種共享控制策略：在某些場景下，機器提供物理支持但人保持決策權；在另一些場景下，機器主動預判人的意圖但保留被推翻的通道。她甚至用量化方法測量了不同自動化水平下用戶的“感知控制感”（perceived control），把權力分配變成了一個可優化的變量。 她的核心論點涉及到分配正義問題：“每一個自動化決策，都意味著收回人的一部分能動性。輔助自主的核心不是技術問題——是權力如何在人和機器之間分配的問題。”2020年，當全世界被迫依賴遠程技術和自動化系統時，Argall的追問有著遠超輪椅和輔助機器人的穿透力：你正在設計的自動化系統，是在增強人的能力，還是在悄悄剝奪人的選擇？ 六、2021·線上——Daphne Koller：AI製藥的數據貧困 2021年，mRNA疫苗正在拯救生命，AlphaFold 2解決了困擾生物學半個世紀的蛋白質結構預測問題。整個AI領域的目光轉向AI for Science。Daphne Koller——斯坦福傳奇教授、Coursera聯合創始人、AI製藥公司insitro的CEO，把鏡頭從分子結構轉向了整個製藥業的基礎設施。她演講的主題是《Transforming Drug Discovery using Digital Biology 》（利用數字生物學變革新藥研發）。視頻鏈接：https://slideslive.com/38959976/transforming-drug-discovery-using-digital-biology?ref=search-presentations 傳統藥物開發：平均10年、26億美元、90%失敗率。Koller的目標是從靶點發現到臨床試驗預測做全鏈路數字化再造。但她的演講花了大量時間講一個出人意料的問題：不是算法有多難，是數據有多難。 “ImageNet已經做到百萬級精確標註，”她說，“製藥業最關鍵的細胞表型數據還停留在手工顯微鏡觀察。”幾十年的溼實驗數據，格式互不兼容，元數據缺失，“有些還在紙質實驗記錄本上。”她展示了insitro的解決方案：用自動化溼實驗室生成大規模、標準化、帶有完整元數據的細胞數據，再在上面訓練機器學習模型。她認為，機器學習的工具箱已經足夠好了，但製藥業的數據基礎設施還停留在前數字化時代。這意味著，在AI for Science最激動人心的戰場上，最急迫的瓶頸不是模型架構創新，而是數據的標準化和生產化。 當整個行業都在追逐更大的模型和更多的算力時，她提醒所有走在科技前沿的人：在真正複雜的領域，那些事關生命的領域，數據貧困仍然是比算法瓶頸更根本的約束。 七、2022·巴爾的摩——Regina Barzilay：我們是否在解決正確的問題 2022年7月，ICML在巴爾的摩恢復線下——兩年虛擬會議後的第一次實體集結。Regina Barzilay站到講臺上。她是MIT CSAIL的教授，2017年從乳腺癌中倖存後把自己的研究轉向了AI+醫療。視頻鏈接：https://icml.cc/virtual/2022/invited-talk/18429 她演講的主題是《Solving the Right Problems: Making ML Models Relevant to Healthcare and the Life Sciences》（解決正確的問題：讓機器學習模型與醫療和生命科學相關）。她回顧了自己1997年參加第一個NLP會議時的場景——全場兩三百人，“大部分在做基於規則的系統”。二十年後，神經方法橫掃一切。但她問了一個不在議程上的問題：這二十年裡，多少論文解決的是最終被證明不相關的問題？ 她的例子來自醫療：大量機器學習論文優化醫院再入院率預測，這是一個被Medicare公開追蹤、數據乾淨漂亮的指標。但在臨床現實中，再入院率和醫療質量的相關性遠比想象的低。一堆論文在優化一個和真實世界“相關”但遠不等於真實世界的代理變量。“我們非常擅長在別人定義的問題上跑分。定義正確的問題，才是最難的部分。” 這場演講的日期是2022年7月。四個月後，ChatGPT發佈。Barzilay在臺上問“我們是否在解決正確的問題”，她指的是醫療AI中的評價指標錯位。但在不久的未來，這個問題即將變成對整個領域的提問。 八、2023，檀香山——Marzyeh Ghassemi：健康標籤裡的結構性暴力 2023年7月，ICML在檀香山。這一年中，ChatGPT發佈六個月後GPT-4已經上線。 Marzyeh Ghassemi——多倫多大學和MIT教授，Healthy ML Lab負責人，她的Keynote和所有這些宏大敘事保持了距離，演講主題是《Taking the Pulse Of Ethical ML in Health 》（測量醫療中倫理機器學習的脈搏）。她放了一張胸部X光片。視頻鏈接：https://icml.cc/virtual/2023/invited-talk/21544 她的實驗室用700萬張胸部X光片訓練了一個模型，要判斷病人是否“健康到可以回家”。準確率很高，State-of-the-art。然後她問：能部署嗎？答案是不能。因為在訓練數據裡，“健康”這個標籤的分佈是不均等的。有色人種患者更少被標記為“無異常”——不是因為他們客觀上更不健康，而是因為他們來急診室的時候通常已經病得更重。 這是幾十年的結構性不平等在數據中的投影。如果模型被部署，它會系統性地把更多數族裔患者留在急診室——而醫生們甚至不會意識到這件事在發生，因為模型在驗證集上表現得“很好”。 值得注意的是，同一次會議上，OpenAI的John Schulman正在講“RLHF中的代理目標”。一個講大模型對齊，一個講醫療模型不對齊。後者更不性感，但卻關乎現實的生命倫理。Ghassemi的演講揭示了一個殘酷的事實：在某些場景下，你連用來訓練“正確”標籤的數據都是錯的。不是模型本身的問題，是數據裡的歷史已經替你做了道德選擇。 九、2024·維也納——Soumith Chintala：開源不是慈善，是戰略 2024年，ICML終於回到維也納，距原定在此召開的2020年已過去四年。Soumith Chintala——PyTorch的締造者、Meta的VP，登臺了。視頻鏈接：https://icml.cc/virtual/2024/invited-talk/35249 他的演講開場就拆了一個流行的敘事：開源不是在做好事。“讓你的互補品大眾化”（Commoditize your complement）他引用了這句著名的商業格言。如果開源對你的競爭對手的傷害遠大於對你的傷害，那就開源它。這不是道德，是利益計算。 他用六個角色畫出了開源爭議中的利益格局：學者缺算力卻不滿閉源廠商的訪問限制；大公司怕擔責又想蹭開源創新；AGI創業公司急著在錢燒完前做突破；垂直AI創業者不在乎開源反正領域窄；Reddit黑客想以崇高之名行破壞之實；普通人只想安靜用產品。每一方都在跑自己的多目標優化函數。 他的關鍵判斷是關於AGI時間線的：“如果你覺得AGI兩年內就會來，你對開放的態度自然會不一樣。”關於“智能何時到來”的假設，本身就是一個被忽視的意識形態變量，它直接決定了你關於“該做什麼”的全部立場。Soumith的結論是“我毫無歉意地站在開放一邊”，理由不是道德優越感，而是他相信AGI還很遠，開放能加速一切。在充斥著崇高話語和末日修辭的AI討論裡，有人承認自己的選擇源於一個可以被質疑的假設——這本身就構成了一種誠實。 十、2025·溫哥華——Anca Dragan：獎勵函數究竟是誰寫的 Anca Dragan的演講標題是《What to optimize for – from robot arms to frontier AI 》（該優化什麼——從機器人手臂到前沿AI）。她沒有給出一個答案。她給出的是一套分類法，將過去十年所有被忽視的追問收束為一個框架。視頻鏈接：https://icml.cc/virtual/2025/invited-talk/39874 她把AI在目標上的失敗歸為三類。 第一類：人類反饋中的系統性偏差——標註者會無意識地偏好某種表達方式、某種政治立場，模型學會的不是“好”而是“標註者認為好”。Gopnik在2019年說“它不在乎真假”，但如果標註者也不知道什麼是真的，你拿什麼來訓練“在乎”？ 第二類：覆蓋缺口——模型在訓練中沒有見過的場景，它的行為不可預測。Dawn Song在2018年展示的對抗樣本，本質上就是覆蓋缺口的武器化利用。你的“獎勵函數”還是你的嗎？ 第三類：LLM評判者的脆弱性——當你用一個模型去評判另一個模型的輸出時，你引入了一個新的、同樣不透明的優化目標。Soumith在維也納說“沒有好用的評測指標”，正是這個問題的另一種表述。 Dragan把這些失敗放在貝葉斯逆向強化學習的框架下做了一個統一的闡釋。但她演講的真正力量不在技術細節，而在於她把過去十年ICML講臺上每一個孤立的追問——Silver對能力的信念、Gopnik對“智能”定義的質疑、Argall對權力分配的追問、Ghassemi對數據正義的揭露等等連成了一個完整的圖景。 她用一個不斷把杯子舉過頭頂的機器人機械臂，給出了結論：優化的目標不是給定的，它需要被發現、被協商、被持續修正。而最大的危險不是還沒找到正確答案，而是在現階段以為自己已經找到了。 結語 十年前，ICML的會場裡迴盪著同