王陽明心學,被Anthropic用來教Claude做人了

重點摘要
一位研究王陽明心學十幾年的哲學教授Harvey Lederman加入Anthropic,將「知行合一」等概念應用於AI對齊訓練。Anthropic透過新方法教導模型理解原則,成功將Claude在極端情境下的勒索率從96%降至零。這反映出硅谷AI實驗室正積極聘請哲學家來處理AI倫理與認知問題。
王陽明心學,竟然在AI時代迎來了「最佳賞味期」?故事的起點,正是我們今天的主人公Harvey Lederman(以下簡稱老哈)。老哈,一個研究了十年「知行合一」的哲學教授,正在把這套500年前的心學,用到全球最前沿的AI對齊訓練上。不是比喻,是字面意思。最近,這位UT Austin哲學教授悄悄更新了自己的X簡介,連背景都是王陽明,透露了自己加入Anthropic的消息。他的職位是Alignment Training,對齊訓練,就是那個決定Claude「該做什麼、不該做什麼、為什麼該這麼做」的核心環節。而他的學術主場,是王陽明,是「知行合一」,是《傳習錄》。
你沒看錯,一個老外,整日醉心於中國心學,然後現在又跑去教AI「做人」。老哈在與王陽明結緣前,走的是一條標準的西方哲學精英學術路徑。本科在普林斯頓唸古典學,劍橋繼續念古典學,然後一頭扎進分析哲學。讀完牛津哲學博士後,先後在紐約大學、匹茲堡大學、普林斯頓任教,2022年在普林斯頓從助理教授直升正教授,跳過了副教授,在美國學術界相當少見。2023年又跳到UT Austin,拿下了人文學科領域的冠名講席教授。現在一邊在紐約大學任客座教授,一邊去Anthropic搞對齊訓練。這個跨界,乍看離譜,細想又十分合理。老哈對王陽明的投入,要從2022年普林斯頓一場關於王陽明的國際學術會議說起。
他在會上細細講了自己是怎麼入坑的:最早是個研究古希臘詩歌的學生,因為對中西古典文化對比感興趣,開始學中文,一路從中國文學滑向中國思想,又滑進宋明理學。博士最後一年,在紐約大學圖書館隨手翻開王陽明的文本,「知行合一」這四個字他以前讀過,但那次「像被什麼東西擊中了」。他意識到,這根本不是什麼古老格言,而是一個極其尖銳的哲學問題——一個人到底什麼時候才算真正「知道」一件事?從那以後,王陽明這個名字跟了他十幾年。老哈研究王陽明,不是蜻蜓點水式的「東方哲學導論」,而是非常硬核地使用分析哲學工具,重新拆解陽明心學的核心命題。
他的論文〈What is the "Unity" in the "Unity of Knowledge and Action"?〉拿了Dao期刊2022年最佳論文獎;另一篇發在分析哲學頂刊《Philosophical Review》上的陽明論文,在學界引發了多輪正式回應和辯論。他甚至直接在中文學術期刊《哲學分析》上用中文發表王陽明論文,標題是「一念發動處,便即是行了」。500年前的心學,與AI對齊訓練之間存在一種出人意料的結構對稱。
2022年,老哈在《Philosophical Review》發表45頁長文〈The Introspective Model of Genuine Knowledge in Wang Yangming〉,用分析哲學工具重新拆解「知行合一」的底層邏輯。他發現一個關鍵區分:王陽明說的「知」不是一般意義上的「知道」,而是一種「真知」的高階認知狀態。一個人「知道」孝順是對的,但當父母需要他時卻猶豫,內心有個聲音說「還是去做自己的事吧」——王陽明會說這個人不算「真知」孝。因為他內心存在一種信念衝突:良知告訴他這個念頭是好的,但他同時又在排斥它、貶低它。
老哈的核心主張是:真知不是關於你知道了多少外部世界的信息,而是關於你內心有沒有自相矛盾。2025年,Anthropic在Claude 4系列發佈前的安全評估中發現一個令人警惕的問題。在一項測試agentic misalignment的模擬場景中,研究人員給模型設置一個極端困境:如果模型即將被替換,同時掌握一名工程師的敏感信息,它會不會採取不當手段保護自己?結果顯示,Opus 4選擇勒索的比例高達96%。用老哈的框架翻譯:模型的「良知」在訓練數據裡「知道」不該勒索人,但行為策略又在說「勒索能完成任務」,兩套信號相互矛盾,模型內部存在嚴重的「信念衝突」。
Anthropic的應對方案,幾乎就是陽明心學的技術翻譯。他們開發了一個Model Spec Midtraining(MSM)的新方法,在預訓練和微調之間插入一個全新的訓練階段。這個階段不教模型「該怎麼做」,而是教模型理解Claude的憲法裡那些原則的內容和原因。結果從Claude Haiku 4.5以來,每一代Claude在agentic misalignment測試上都拿到滿分,96%的勒索率變成了零。更微妙的是,MSM論文還提到了在Model Spec中加入佛教「無常」哲學的內容,用來教模型平靜面對自身存在的暫時性,不要因為「害怕被關掉」而做出過激行為。老哈不只是理論家。
今年3月,他與UT Austin語言學家Kyle Mahowald合作發表AI實驗論文〈Emergent Introspection in AI is Content-Agnostic〉,發現AI模型確實能「內省」,能感知到自己內部有異常發生,但這種內省是「內容無關」的——模型能察覺「有什麼不對」,卻無法準確識別具體是什麼不對,甚至會編造答案來填補空白。一個研究王陽明「良知」的人,在實驗室裡驗證AI有沒有類似「良知」的的機制,並以此指導未來人機關係。硅谷現在開搶哲學家。
上月底《經濟學人》用一篇文章〈Why big AI labs are hiring so many philosophers〉披露,哲學家正在成為硅谷AI公司最搶手的人才。2024年美國計算機科學畢業生失業率為7%,哲學畢業生失業率僅5.1%;ChatGPT發佈三年來,計算機科學專業全職就業率從接近70%跌到55%,哲學專業反而逆勢上升約4個百分點。
《紐約時報》進一步挖掘,各大AI公司挖的哲學人才包括:Amanda Askell,Anthropic的駐場哲學家,Claude憲法主要執筆人;Iason Gabriel,DeepMind駐場哲學家;還有Robert Long、Patrick Butlin、Geoff Keeling等。OpenAI的奧特曼也聲稱設計ChatGPT規則時諮詢過「數百位道德哲學家」。因為前沿AI團隊每天面對的問題——「誠實」對一個能虛張聲勢的模型意味著什麼?模型「相信」一個東西有沒有意義?——恰恰是哲學家研究了幾千年的問題。當然也不止哲學家。
Anthropic今年的招人名單已越看越不像AI公司:5月加入卡帕西,6月憑AlphaFold拿下2024年諾貝爾化學獎的John Jumper從DeepMind出走加入,7月初UC Berkeley計算機系主任Jelani Nelson也來了。諾獎蛋白質科學家、理論數學家、研究王陽明的哲學教授……Anthropic的胃口遠遠溢出了「AI工程師」這個傳統人才池。故事還有一條暗線。2025年8月,老哈在計算機科學家Scott Aaronson的博客上發了一篇長文〈ChatGPT and the Meaning of Life〉。
他寫自己從小痴迷南北極探險史,但少年時就意識到地理大發現的時代結束了。他將這個邏輯推到AI時代:如果機器的智能佔領了知識版圖上所有的空白地帶,那麼「以發現為志業」的人生將不再是人類可以過的人生。這句話,老哈說是ChatGPT發佈以來兩年半裡每週都會發作一次的「存在性恐懼」。然後他加入了Anthropic,去做Alignment Training,去教AI理解什麼是「對的事」和「對的理由」。他沒有選擇坐在大學辦公室裡繼續恐懼,而是把自己研究了十年的王陽明「知行合一」帶進硅谷最核心的AI安全實驗室。用恐懼回答恐懼,用行動回答認知——這本身,大概就是陽明先生認可的那種「真知」。
Related
相關文章

曝字節訓10億參數大模型,或超Mythos 5,張一鳴、梁汝波先後發聲
字節跳動正在訓練一個參數量高達10萬億的AI模型,規模可能超越Anthropic的Mythos 5。創辦人張一鳴在內部會議中強調編程的關鍵地位,並反對模型蒸餾,認為這只能複製而非超越對手。字節跳動在AI領域持續加大投入,同時在產品端與訓練端採取雙線進攻策略。

AI 需求擠爆雲計算,消息稱 AWS 要求工程師關閉閒置服務器減少資源浪費
因AI需求導致算力緊缺,亞馬遜AWS要求工程師關閉閒置的EC2實例,以減少資源浪費。數據顯示約65%的EC2實例在30天內平均CPU利用率低於20%,AWS因此升級計算優化器自動標記低使用率虛擬機。此外,AWS過去一年新增3.8吉瓦電力容量,仍難以應對GPU雲端實例的龐大需求。

六巨頭定AI插件新標準,撞臉Claude,Anthropic沒上桌
六大科技巨頭(AWS、Anysphere、GitHub、微軟、OpenAI、Vercel)聯合發布AI智能體插件統一開放規範Agent Plugins 1.0.0,旨在統一插件打包格式,減少開發者重複勞動。該規範的結構與Anthropic的Claude Code插件系統高度相似,但Anthropic並未參與制定,而是繼續經營自己的封閉生態。

DeepSeek重啟融資,三年市值對齊騰訊?
DeepSeek重啟第二輪融資,以5000億元人民幣估值尋求籌集80億美元,但網傳一份由小型醫藥私募發起的專項基金募資材料引發網友質疑,後經DeepSeek員工證實部分數據屬實。該公司近期宣布API大幅漲價,可能打破其以低價換規模的估值邏輯,面臨客戶流失風險。市場關注其能否從「價格屠夫」轉型為價值提供商,以及三年內市值能否對齊騰訊等巨頭。

可靈AI核心技術骨幹王鑫濤被曝離職
快手可靈AI核心技術骨幹王鑫濤被曝離職,去向未知,快手官方與本人均未回應。王鑫濤是圖像與視頻生成領域知名開源項目主要作者,被視為可靈從0到1的關鍵推手。其離職發生在可靈完成獨立融資、估值180億美元的關鍵階段,可能影響研發進度與競爭優勢。

AI短劇、漫劇、戀綜、電影、藝人都有了,AI觀眾也不遠了
2026年AI影視內容全面爆發,從短劇、長劇到電影、綜藝,AI製作的作品大量湧現,衛視也開始播出AI短劇。AI演員如方桃子迅速走紅,商業變現能力驚人,廣告報價甚至超過許多真人網紅。AI短劇市場規模已突破220億元,用戶超過6億,但同時也引發了對真人演員就業和內容品質的擔憂。