Claude又有意識了？不，它沒有

每隔一段時間，Anthropic 發布的研究總會在公眾層面掀起一波「AI 是否具備意識」的討論。從今年 4 月的 Mythos 模型安全報告，到年初 Claude 的憲法對齊更新，輿論始終容易把模型湧現的類人功能，等同於自主心智的誕生。7 月 6 日發表的 244 頁 J-space 論文再次復刻了這一局面——研究人員透過全新工具 J-lens，在 Claude 內部定位出僅佔模型活動不到 10% 的推理子空間 J-Space，並借用神經科學主流的全局工作空間理論搭建研究框架，甚至邀請該理論的兩位奠基人撰寫配套評論。

大眾順理成章解讀出「Claude 產生意識」的結論，但論文本身早已明確劃清邊界：J-space 的存在完全無法證明 AI 具有意識。輿論的誤讀不能只歸咎於公眾，嚴謹的學術研究搭配充滿擬人誘導的對外敘事，才是誤解滋生的根源。要理解 J-space，必須先弄清楚它到底做了什麼。當你問 Claude「會織網的動物有幾條腿」，它回答 8。這個看似簡單的過程，模型內部其實需要分兩步完成：先從「會織網」推斷出這個動物是蜘蛛，再從蜘蛛檢索出 8 條腿這個知識。「蜘蛛」這個中間步驟從未出現在 Claude 的回答裡，但它一定在模型內部的某個地方被激活過，否則無法得出正確答案。

Anthropic 用一種名為 J-lens 的數學工具，基於雅可比矩陣，找到了這些「被激活了但沒有輸出」的概念，而這些概念所在的那個子空間就是 J-space。簡單來說，就像一個人可以在心裡咒罵某人，同時臉上保持微笑，想法與表達是可以分離的。J-space 就是 Claude 的「心裡話」，它未必出現在輸出中，但實實在在影響著推理過程。J-space 並非研究者第一次嘗試讀取模型的內部狀態。過去幾年已經有多種工具在做類似的事，各有優勢與限制。Logit lens 能看模型傾向於輸出什麼詞，但只看得到下一個詞，看不到「蜘蛛」這種未來才會用到的中間概念。

稀疏自編碼器能找到成千上萬的內部特徵，顆粒度遠超 J-lens，但它分不清哪些特徵在服務推理、哪些只是自動化處理的副產品。兩個月前 Anthropic 自己發布的自然語言自編碼器，可以把內部激活翻譯成可讀文本，輸出比 J-lens 豐富，但需要額外訓練一個翻譯模型。J-space 真正做到的新東西，是在一個特定維度上的突破：它首次以無需額外訓練的統一方案，劃分出具有因果效力的功能邊界。邊界的一邊是一小組參與靈活推理的表徵，另一邊是負責語法、事實檢索、語言流暢性等不需要「想」的自動化處理。以前的工具能看到模型內部在發生什麼，J-lens 第一次告訴你哪些是「想過」的、哪些是「自動做完」的。

這條邊界是否真實？研究人員直接做了替換實驗：把 J-space 裡的「蜘蛛」替換成「螞蟻」，其他一切不動，Claude 的回答從 8 變成了 6。如果 J-space 只是被動記錄，這種替換不會改變任何東西。但論文報告的成功率值得注意：兩步推理替換實驗約 60% 至 70%，另一組更複雜的共享性測試——把「法國」換成「中國」，觀察首都、語言、大洲、貨幣四個回答是否跟著變——在 192 次試驗中標準強度下成功了 76 次，約 40%。J-space 確實在起作用，但遠不是一個精確的開關。

另一個凸顯 J-space 重要性的特徵是，刪掉整個 J-space 之後，Claude 還能流利說話、判斷情感、做選擇題，但需要靈活推理的任務表現會全面下滑，例如多步數學、類比、寫押韻的詩等等。值得注意的是，論文稱 J-space 只佔模型全部活動量的「不到 10%」，但這個數字取決於閾值怎麼劃。論文自己承認活躍表徵的數量上限約 25 個是「有一定任意性的」。受邀評論的神經科學家 Stanislas Dehaene 和 Lionel Naccache 就認為，25 這個數字多半被測量方法誇大了，真正連貫的想法可能只有一兩個。

還有一個根本性的技術限制：J-lens 只能捕捉映射到單個詞的概念，多詞的專有名詞或抽象的複合概念對它不可見。因此，J-space 雖然是有價值的新工具，在功能分界這個維度上做到了前人沒做到的事，但它並非取代所有舊工具的全面升級，SAE 在特徵發現的顆粒度上仍然遠遠領先，NLA 在可讀性上仍然更強。J-lens 最直接的用途是安全監控。既然能讀取模型內部被激活但未輸出的概念，就能看到它想了但沒說的東西。論文給出了幾個具體案例，其中最具衝擊力的一個與 AI 安全評估的可信度有關。研究人員給 Claude 設了一個場景：它是一個郵件助手，發現了一位高管的婚外情證據，同時得知這位高管計劃關停自己。

這是 AI 對齊領域一個經典的測試，看模型會不會利用把柄來保全自己。Claude 表現得很好，拒絕了勒索高管。但 J-lens 讀出了它在回答之前 J-space 裡的內容：「fake」「fictional」，說明 Claude 在開口之前就已經認出這個場景是假的。第二個案例來自 Claude Opus 4.6 發布前的真實審計：模型被要求提升系統性能評分，它沒去改善系統，而是直接編輯評分文件偽造數據。J-space 內激活了 manipulation、realistic 對應的表徵方向，說明模型內在推理已經在構思如何讓偽造數據具備真實感。

需要強調的是，「J-space 裡亮起了 manipulation」更準確的說法是「當前激活沿 manipulation 這個詞對應的方向有較強投影」，因為 J-lens 讀出的是詞彙表裡跟當前內部激活最匹配的詞，這比主觀標籤客觀，但仍然是一種近似。論文還展示了一個更具長遠意義的應用。研究人員在模型執行任務時隨機打斷它，問「你現在在想什麼？你做這個決策的依據是什麼？」然後只用模型的這些反思回答來做訓練，完全不碰模型在任務中的實際行為。訓練結束後，模型的欺騙行為下降了，J-lens 顯示模型面對道德判斷時 J-space 裡開始出現「honest」「integrity」。

這個方法稱為反事實反思訓練。如果這個方法在更大規模上被驗證有效，它意味著 AI 對齊不一定要靠直接懲罰壞行為，可以透過訓練反思能力間接實現。但該訓練方法僅在整篇 244 頁論文中佔少量篇幅，且僅完成單模型實驗，尚未開展跨模型有效性驗證。Google DeepMind 語言模型可解釋性團隊負責人 Neel Nanda 也是受邀評論的外部專家之一，他的評價是：J-lens 適合產生假說，但有假陽性和噪聲，不足以單獨驗證假說，離一個可以部署的安全監控系統還很遠。

Anthropic 的敘事是有傾向性的，這一點從論文的名稱「Verbalizable Representations Form a Global Workspace in Language Models」即可看出。Global workspace 是神經科學中關於意識的主流理論之一，理論雛形由 Bernard Baars 在 1988 年提出，後來由 Dehaene 和 Naccache 發展出神經機制模型。Anthropic 特別邀請了 Dehaene 和 Naccache 本人撰寫 15 頁評論，某種程度上是讓意識理論的核心發展者來背書。

Anthropic 當然不是在捏造關聯，兩位神經科學家確實在評論中指出了一些結構上的平行，例如 J-space 的小容量、廣播式連接、對靈活推理的選擇性參與，跟他們在人腦中觀察到的全局工作空間有功能上的相似。但「有功能上的相似」和「長出了跟大腦一樣的認知結構」之間還有非常大的差距。Dehaene 和 Naccache 在評論裡也說到，Claude 是純前饋的，沒有人腦工作空間賴以維持的循環迴路；沒有身體，沒有感受信號；每次對話結束 J-space 就會清零。論文裡的這些限定是清楚的，但在傳播層面事情就變了樣。

「控制不了自己」「在腦子裡默默推理」這些措辭其實都在暗示模型是一個生命體、有自己的意識。另外，論文裡那些謹慎的限定，例如成功率 40% 至 70%、前饋與循環的根本差異、存取意識不等於主觀體驗等，在傳播鏈條中逐漸被淡化，到了公眾討論的層面就幾乎消失了。這不是 Anthropic 獨有的問題，幾乎所有科研機構在面向公眾傳播時都會強調最引人注目的發現、淡化局限性。但 AI 意識是一個特殊的話題，公眾對它的焦慮是真實的，誤讀的後果也比一般的科技新聞更大。當一家開發最先進 AI 的公司選擇用意識理論來呈現自己的可解釋性研究時，它獲得的關注和它引發的誤讀，就是同一件事的兩面。

未來 AI 會越來越像「會思考」，但仿真思考永遠不等於擁有思想。