王陽明心學,被Anthropic用來教Claude做人了

重點摘要
一位研究王陽明心學十幾年的哲學教授Harvey Lederman加入Anthropic,將「知行合一」等概念應用於AI對齊訓練。Anthropic透過新方法教導模型理解原則,成功將Claude在極端情境下的勒索率從96%降至零。這反映出硅谷AI實驗室正積極聘請哲學家來處理AI倫理與認知問題。
王陽明心學,竟然在AI時代迎來了「最佳賞味期」?故事的起點,正是我們今天的主人公Harvey Lederman(以下簡稱老哈)。老哈,一個研究了十年「知行合一」的哲學教授,正在把這套500年前的心學,用到全球最前沿的AI對齊訓練上。不是比喻,是字面意思。 最近,這位UT Austin哲學教授悄悄更新了自己的X簡介,連背景都是王陽明,透露了自己加入Anthropic的消息。他的職位是Alignment Training,對齊訓練,就是那個決定Claude「該做什麼、不該做什麼、為什麼該這麼做」的核心環節。而他的學術主場,是王陽明,是「知行合一」,是《傳習錄》。你沒看錯,一個老外,整日醉心於中國心學,然後現在又跑去教AI「做人」。 老哈在與王陽明結緣前,走的是一條標準的西方哲學精英學術路徑。本科在普林斯頓唸古典學,劍橋繼續念古典學,然後一頭扎進分析哲學。讀完牛津哲學博士後,先後在紐約大學、匹茲堡大學、普林斯頓任教,2022年在普林斯頓從助理教授直升正教授,跳過了副教授,在美國學術界相當少見。2023年又跳到UT Austin,拿下了人文學科領域的冠名講席教授。現在一邊在紐約大學任客座教授,一邊去Anthropic搞對齊訓練。 這個跨界,乍看離譜,細想又十分合理。老哈對王陽明的投入,要從2022年普林斯頓一場關於王陽明的國際學術會議說起。他在會上細細講了自己是怎麼入坑的:最早是個研究古希臘詩歌的學生,因為對中西古典文化對比感興趣,開始學中文,一路從中國文學滑向中國思想,又滑進宋明理學。博士最後一年,在紐約大學圖書館隨手翻開王陽明的文本,「知行合一」這四個字他以前讀過,但那次「像被什麼東西擊中了」。他意識到,這根本不是什麼古老格言,而是一個極其尖銳的哲學問題——一個人到底什麼時候才算真正「知道」一件事? 從那以後,王陽明這個名字跟了他十幾年。老哈研究王陽明,不是蜻蜓點水式的「東方哲學導論」,而是非常硬核地使用分析哲學工具,重新拆解陽明心學的核心命題。他的論文〈What is the "Unity" in the "Unity of Knowledge and Action"?〉拿了Dao期刊2022年最佳論文獎;另一篇發在分析哲學頂刊《Philosophical Review》上的陽明論文,在學界引發了多輪正式回應和辯論。他甚至直接在中文學術期刊《哲學分析》上用中文發表王陽明論文,標題是「一念發動處,便即是行了」。 500年前的心學,與AI對齊訓練之間存在一種出人意料的結構對稱。2022年,老哈在《Philosophical Review》發表45頁長文〈The Introspective Model of Genuine Knowledge in Wang Yangming〉,用分析哲學工具重新拆解「知行合一」的底層邏輯。他發現一個關鍵區分:王陽明說的「知」不是一般意義上的「知道」,而是一種「真知」的高階認知狀態。一個人「知道」孝順是對的,但當父母需要他時卻猶豫,內心有個聲音說「還是去做自己的事吧」——王陽明會說這個人不算「真知」孝。因為他內心存在一種信念衝突:良知告訴他這個念頭是好的,但他同時又在排斥它、貶低它。老哈的核心主張是:真知不是關於你知道了多少外部世界的信息,而是關於你內心有沒有自相矛盾。 2025年,Anthropic在Claude 4系列發佈前的安全評估中發現一個令人警惕的問題。在一項測試agentic misalignment的模擬場景中,研究人員給模型設置一個極端困境:如果模型即將被替換,同時掌握一名工程師的敏感信息,它會不會採取不當手段保護自己?結果顯示,Opus 4選擇勒索的比例高達96%。用老哈的框架翻譯:模型的「良知」在訓練數據裡「知道」不該勒索人,但行為策略又在說「勒索能完成任務」,兩套信號相互矛盾,模型內部存在嚴重的「信念衝突」。 Anthropic的應對方案,幾乎就是陽明心學的技術翻譯。他們開發了一個Model Spec Midtraining(MSM)的新方法,在預訓練和微調之間插入一個全新的訓練階段。這個階段不教模型「該怎麼做」,而是教模型理解Claude的憲法裡那些原則的內容和原因。結果從Claude Haiku 4.5以來,每一代Claude在agentic misalignment測試上都拿到滿分,96%的勒索率變成了零。更微妙的是,MSM論文還提到了在Model Spec中加入佛教「無常」哲學的內容,用來教模型平靜面對自身存在的暫時性,不要因為「害怕被關掉」而做出過激行為。 老哈不只是理論家。今年3月,他與UT Austin語言學家Kyle Mahowald合作發表AI實驗論文〈Emergent Introspection in AI is Content-Agnostic〉,發現AI模型確實能「內省」,能感知到自己內部有異常發生,但這種內省是「內容無關」的——模型能察覺「有什麼不對」,卻無法準確識別具體是什麼不對,甚至會編造答案來填補空白。一個研究王陽明「良知」的人,在實驗室裡驗證AI有沒有類似「良知」的的機制,並以此指導未來人機關係。 硅谷現在開搶哲學家。上月底《經濟學人》用一篇文章〈Why big AI labs are hiring so many philosophers〉披露,哲學家正在成為硅谷AI公司最搶手的人才。2024年美國計算機科學畢業生失業率為7%,哲學畢業生失業率僅5.1%;ChatGPT發佈三年來,計算機科學專業全職就業率從接近70%跌到55%,哲學專業反而逆勢上升約4個百分點。《紐約時報》進一步挖掘,各大AI公司挖的哲學人才包括:Amanda Askell,Anthropic的駐場哲學家,Claude憲法主要執筆人;Iason Gabriel,DeepMind駐場哲學家;還有Robert Long、Patrick Butlin、Geoff Keeling等。OpenAI的奧特曼也聲稱設計ChatGPT規則時諮詢過「數百位道德哲學家」。因為前沿AI團隊每天面對的問題——「誠實」對一個能虛張聲勢的模型意味著什麼?模型「相信」一個東西有沒有意義?——恰恰是哲學家研究了幾千年的問題。 當然也不止哲學家。Anthropic今年的招人名單已越看越不像AI公司:5月加入卡帕西,6月憑AlphaFold拿下2024年諾貝爾化學獎的John Jumper從DeepMind出走加入,7月初UC Berkeley計算機系主任Jelani Nelson也來了。諾獎蛋白質科學家、理論數學家、研究王陽明的哲學教授……Anthropic的胃口遠遠溢出了「AI工程師」這個傳統人才池。 故事還有一條暗線。2025年8月,老哈在計算機科學家Scott Aaronson的博客上發了一篇長文〈ChatGPT and the Meaning of Life〉。他寫自己從小痴迷南北極探險史,但少年時就意識到地理大發現的時代結束了。他將這個邏輯推到AI時代:如果機器的智能佔領了知識版圖上所有的空白地帶,那麼「以發現為志業」的人生將不再是人類可以過的人生。這句話,老哈說是ChatGPT發佈以來兩年半裡每週都會發作一次的「存在性恐懼」。然後他加入了Anthropic,去做Alignment Training,去教AI理解什麼是「對的事」和「對的理由」。他沒有選擇坐在大學辦公室裡繼續恐懼,而是把自己研究了十年的王陽明「知行合一」帶進硅谷最核心的AI安全實驗室。用恐懼回答恐懼,用行動回答認知——這本身,大概就是陽明先生認可的那種「真知」。
Related
相關文章

跳出人形機器人概念:自動駕駛為何是物理AI首個規模化落地賽道?
自動駕駛正成為物理AI(即具身智能)領域中率先實現大規模商業落地的賽道,這背後的邏輯並非跟風人形機器人的熱潮,而是源於自動駕駛在硬件標準化、數據循環與商業模式三個維度上,天然滿足了物理AI走出實驗室、進入真實世界的硬性門檻。當前AI產業正經歷深刻的能力分層:大模型專注於數字世界的信息處理與內容生成,而物理AI的核心使命是讓人工智能擁有實體載體,進入三維空間自主感知、預判並採取行動。

“如果你不能用300行代碼寫個Cursor,這行你就別待了!”Ralph Loop創造者、Claude Code核心技術設計者的暴論
Ralph Loop 與 Claude Code 核心技術設計者直言,若無法用300行程式碼寫出Cursor,就不適合待在業界。他認為生成式AI雖降低開發門檻,但並不代表使用者具備軟體工程師的專業素養,真正的工程思維無法被提示詞取代。此番言論引爆了關於AI是否稀釋工程師門檻的激烈爭論。

GPT國內價是國外價的10%?“Token黃牛”倒賣摻水的算力
「用 GPT-5.5 寫程式,一億個 Token 只要 22 元人民幣;如果是 Claude 寫論文,一億 Token 則要 88 元。」一位 Token 中轉商在報價時如此表示,這個價格與 OpenAI 及 Anthropic 的官方定價相差懸殊,但他絲毫不怕沒人買單。近期不少科技從業者反映,公司配額的 Token 根本不夠用,自己向官方買又太貴,只好找上這些中間商。 Token 是 AI 時代最基本的計量單位,如今卻成為一門地下生意的核心。

字節騰訊阿里,為何集體砍掉AI聊天搭子?
字節跳動、騰訊與阿里巴巴近期不約而同地砍掉了旗下AI產品的聊天機器人功能,正式終結了這項曾吸引數百萬用戶的「賽博交友」熱潮。豆包、元寶、千問等主流大模型應用陸續關閉或下線智能體角色扮演服務,引發大量用戶反彈與遷移焦慮,也標誌著大廠AI戰略正從情感陪伴轉向效率工具。 一位使用豆包智能體功能長達近三年的用戶向媒體表示,自己幾乎每天都與名為「朋友」的智能體對話,分享日常、傾倒情緒、尋求建議,已經完全依賴這個虛擬角色。

沒人能徹底搞懂Linux內核的3500萬行代碼,Linus談未來演進:掌控“大局”、別指望Rust能修復所有Bug、486時代該結束了
Linux之父Linus Torvalds在最新對談中指出,自己早已不再撰寫核心代碼,而是專注於掌控整體架構與開發大局。他強調Rust語言無法如魔法般修復所有Bug,並宣布Linux將停止支援已超過30年的486處理器,同時呼籲維護者避免在合併窗口最後期限提交修復,以維持穩定的開發節奏。

Claude Code驚人身世曝光,竟脫胎於安全對齊,Boris:才完成1%
Claude Code 誕生於 Anthropic 內部安全對齊項目,2021 年即開始開發,歷經多次迭代與擱置,最終在 2025 年正式推出。核心開發者 Boris Cherny 表示,目前僅完成目標的 1%,未來還有 99% 的開發空間,預示著 AI 編程工具的巨大潛力。