Anthropic 發文稱自家 Claude 已經開智，網友：為了上市，不擇手段？

# Anthropic 宣稱可讀取 Claude「內心OS」：技術突破還是上市營銷？ ## Anthropic 發表全新內部機制研究，稱能看見 Claude 生成回答前「正在想什麼」

Anthropic 近日發表一篇名為《A global workspace in language models》的研究，聲稱成功開發出一套能夠讀取大型語言模型內部「尚未說出口的概念」的技術。這項研究迅速引發科技圈熱議，但輿論反應兩極：一方認為這是可解釋性領域的重要突破，另一方則質疑 Anthropic 為了爭取上市估值而刻意包裝敘事，暗示模型擁有意識。 一直以來，LLM 對於使用者而言就像一個黑箱：我們看到輸入、輸出、Token 機率，但模型究竟在什麼時刻形成判斷、辨識風險、決定回答方向，外界幾乎無從得知。Anthropic 這次試圖把這層「看不見的運算」往前推一步，直接觀察模型在中間層已經形成、卻尚未轉化為輸出文字的概念。 ## J-space 與 J-lens：讀取語言模型「心中所想」

研究團隊將這組內部表示命名為「J-space」，讀取它的技術則稱為「Jacobian Lens，簡稱 J-lens」。不同於傳統的「logit lens」直接將中間層殘差流映射到詞表輸出，J-lens 先估算該層激活值的變化如何影響最終層激活，再透過模型自身的解嵌入矩陣轉譯成可讀的詞彙。 Anthropic 強調，J-lens 讀取的不是「下一步一定會輸出的詞」，而是「這個中間狀態在後續運算中更容易支持哪些概念」。因此它能捕捉模型尚未寫出來、但已在內部成形的思考片段。 研究進一步將 J-space 歸納出五項特徵：它是可報告的（模型被問及時可將部分狀態轉譯成語言）、可調動的（指令可讓特定概念進入 J-space）、參與中間推理（部分任務需先形成中間概念再繼續計算）、可被後續計算複用（形成後可影響多種後續任務）、以及並非所有計算的中心（封鎖 J-space 後模型仍能進行基礎對話，只在更高階任務中表現下降）。 ## 干預實驗證明因果關係：不只是可視化

單純讀取內部表徵最多只能算是一種「可視化工具」。為了證明 J-space 確實參與模型運算，Anthropic 進行了替換、消融、寫入等干預操作，結果發現改動這些內部狀態後，模型後續的報告內容、推理結果與策略行為確實出現對應變化。這一步強化了該方法的工程意義：這些內部狀態不只是觀測指標，更是可干預、可訓練的計算環節。 在此基礎上，Anthropic 進一步開發了一套「反事實反思訓練」（counterfactual reflection training）。這種訓練不是直接監督模型輸出正確答案，而是在任務中途截斷軌跡，追加一個假設性的反思問題，只訓練模型在該反事實位置上「應該如何思考」。評估時不追加該問題，也不要求模型輸出反思文本。結果顯示，經過此訓練後，模型在誠實與欺騙相關評測上的表現顯著改善，且 J-lens 觀察到「honest」「integrity」「ethical」等概念在 J-space 中出現頻率上升。若將這些被訓練出的內部表示消融，行為改善效果便大幅回退。 ## 工程落地路線：訓練診斷、安全評測與 Agent 監控

從工程面來看，J-space 技術對三條線具有直接影響。首先是訓練。目前主流對齊方法如 SFT 與 RLHF，分別著重於監督輸出格式與偏好排序；而反事實反思訓練則直接作用於模型在關鍵情境下的內部判斷，為安全對齊提供新的控制維度。 其次是評測。現有安全 Eval 多半只看最終輸出是否違規，但 J-lens 已觀察到 Claude 在某些安全場景中會提前辨識出自己身處「評測環境」或「虛構場景」。如果模型因為知道自己在被測試而表現安全，那評測分數本身就存在不可忽略的偏誤。未來評測高能力模型時，可能必須同時記錄「模型是否識別了測試條件」。 第三是安全審計，尤其對 Agent 場景意義重大。Agent 的風險不一定出現在文字回答中，而可能潛藏在工具呼叫、代碼修改、檔案操作或外部請求之前。若能搶在動作執行前讀取模型內部狀態，便可將異常訊號送往沙箱、政策模型或人工審核。不過目前這項技術仍屬於模型廠商內部能力，閉源 API 開發者短期內無法直接調用。 ## 網友不買單：技術真功夫，但包裝太「意識」

儘管技術內容值得關注，這篇研究的傳播效果卻慘遭輿論反噬。Axios 直接點出矛盾：Anthropic 並未證明 Claude 擁有主觀感受或體驗，卻刻意將研究放在「類似人類意識可訪問性」的框架下，論文全文甚至出現「conscious」一詞超過 200 次。Reddit 與 X 平台上大量用戶直言「又來了」，認為 Anthropic 每次釋出技術報告都刻意讓公眾產生「模型有意識」的聯想，背後目的是為即將到來的 IPO 鋪路。 也有技術社群指出，激活值會影響輸出、且不一定見於最終文字，這在業界早就不是新鮮事。Anthropic 的新貢獻在於將其中一小部分激活對齊到全球工作空間理論的「聚光燈」概念，並提供了可干預的工具。然而人類意識理論本身就沒有共識，將一個仍在爭論中的模型硬套到 LLM 上，註定引發爭議。 還有批評從工程邊界出發：J-space 只覆蓋極小部分的激活變異數（最高不到 10%），且主要讀取單一 Token 層級的概念。它無法完整恢復推理結構，也無法穩定表示複雜意圖、關係綁定或長期策略。沒有讀到風險概念不保證安全，讀到風險概念也不保證模型會執行風險行為。 ## 結語：技術進步與敘事通膨需分開看待

客觀來說，J-lens 與 J-space 確實提供了一種讀取中間層可語言化狀態的新方法，干預實驗證明其因果角色，反事實反思訓練則開啟了透過內部狀態進行對齊的新路徑。這些技術對訓練診斷、安全評測與未來 Agent 風控具有潛在價值，也值得學術界與業界持續跟進。 然而 Anthropic 在傳播操作上多次選擇使用「global workspace」「conscious access」「what Claude is thinking but not saying」等高度暗示性的語言，即使文末加上免責聲明，也難以扭轉讀者的第一印象。在技術路線逐漸趨同、商業競爭日益激烈的當下，一家公司若反覆讓公眾在「技術突破」與「營銷話術」之間搖擺，最終消耗的將不只是輿論耐心，更是整個行業對可解釋性研究應有的信任。 真正值得追問的問題或許不是「Claude 有沒有 global workspace」，而是：J-space 能否在不同模型上穩定復現？J-lens 的讀數能否降低安全評測的誤判率？內部狀態監控能否以可接受成本進入生產環境？反事實訓練能否可靠塑造模型的潛在表徵？只要這些問題持續被驗證，這條技術路線就有其不可忽視的價值。至於意識敘事，網友不買單，恰好是最真實的市場反饋。