拆開Claude大腦也沒用，AI黑箱真正的鑰匙，藏在本體工程

Anthropic研究團隊在2026年7月發表了一篇名為《A global workspace in language models》的論文，透過名為J透鏡的工具，在Claude模型內部識別出一個可被觀測、可被干預且具有因果效力的神經活動區域，稱為J-Space。這項發現之所以引起廣泛關注，在於它讓研究人員得以一窺模型推理過程中的「內心獨白」，標誌著可解釋性研究從解釋模型的行為，邁入即時觀測模型內部狀態的新階段。J-Space以認知神經科學的全局工作空間理論為解釋框架，將語言模型的推理活動類比於人類意識層面的資訊處理，無論在方法論或認識論層面，都被視為重要的推進，也為AI安全提供了全新的監控維度。 然而，正因為這項研究的影響深遠，更有必要審慎檢視其內在的侷限。J-Space的根本取向是內在主義的，它將可解釋性的核心問題設定為「理解模型內部發生了什麼」，試圖如同神經科學家用fMRI掃描人腦一般，以J透鏡掃描語言模型的神經活動。這樣的進路預設了可解釋性的答案就藏在模型的「體內」，但一個模型的輸出是否真正能被理解，不僅取決於其內部狀態的可見性，更取決於這些狀態與世界中的事態、語義規範以及使用者認知框架之間的關係。若僅憑觀察神經活動來理解模型的話語，就好比僅憑一個人的腦電活動去理解他所說的話，或許能捕捉到神經關聯，卻從未觸及話語的意義本身。 此外，J-Space借用了全局工作空間理論這套關於意識的理論來解釋語言模型，但在移植過程中，一種微妙的範疇錯誤悄然發生：功能層面的同構性，被誤認為認識論層面的等價性。模型沒有主觀經驗，J-Space中的激活模式只是數學運算的產物，並非任何意義上的心靈狀態。更深層的問題在於，J-Space本質上是一項工程導向的工作，它將「可解釋性」窄化為「可觀測性」與「可干預性」。然而，在更廣泛的知識論傳統中，「解釋」的含義遠比這些來得豐富，它涉及將現象納入更一般的規律框架，涉及提供理由與依據，也涉及對決策正當性的論證。J-Space能夠告訴我們模型「在想什麼」，卻無法告訴我們模型為什麼以這種方式思考，它所依據的「理由」是什麼，這些理由在何種意義上是「好的」理由。這些問題的答案，並不存在於神經活動模式之中。 上述侷限指向一個共同的癥結：J-Space乃至整個以神經網絡為焦點的可解釋性研究，始終將「模型本身」作為解釋的唯一對象，問題的起點與終點都是模型。本文於是嘗試提出一種不同的視角，將可解釋性的追問從模型內部轉向模型所處理的資訊，從神經科學的內在主義進路，轉向知識論的「資訊本體論」進路。這個轉換基於一個簡潔的觀察：大型語言模型本質上是資訊處理器，其輸入與輸出均為文本，而文本的意義——也就是我們真正需要解釋的東西——並不存在於神經元的激活值中，而是存在於這些符號與世界、與知識、與人類實踐之間的關係之中。當一個模型回答「巴黎是法國的首都」，我們需要解釋的不僅是模型內部哪個區域被激活，更是這個陳述在何種知識體系中成立、它以什麼為依據、這些依據的可靠性與正當性如何，以及這個回答與人類既有的地理知識之間的關係。這些問題，沒有一個能透過掃描神經活動來回答。 要真正推進大型語言模型的可解釋性問題，需要超越對模型內部狀態的凝視，轉而從知識論的視角出發，系統考察模型所處理的資訊——包括其來源、結構、表徵方式、流轉路徑，以及與外部知識體系的關係。這個視角的轉換，構成了這條研究路線的出發點。而這一切的哲學地基，可以回溯到康德在《純粹理性批判》中的經典論述。康德認為，人類心靈並非被動接收外界刺激，而是先天配備了十二種「純粹知性概念」作為認知的形式框架。他從人類邏輯判斷的十二種形式中推導出這些範疇，將其分為量、質、關係與模態四組。 康德的範疇理論本質上是一種關於「可理解性」的本體論承諾：只有能被納入這十二種範疇框架之下的東西，才能成為知識對象；超出框架的「物自體」永遠不可知。這對於AI可解釋性的深層啟示在於，當我們解釋一個語言模型的輸出時，真正「可解釋」的不是內部神經元的物理激活，而是資訊被範疇化、被結構化為可理解知識的過程。神經激活屬於物自體層面，模型輸出的話語意義則屬於現象界層面，只有被置於某種認知結構框架中，才能被理解與評判。可解釋性並不要求模型內在機制透明到每一個權重的程度，而是要求我們能夠確認，模型在資訊處理層面所形成的結構，是否映射到了人類用以理解世界的範疇框架之上。 本體論提供的是關於「可理解的結構應當是什麼樣」的規範性回答，但這個回答本身並不會自動轉化為可運行的技術系統。本體論若無本體工程的支撐，便只是懸置在空中的概念遊戲。本體工程作為將哲學範疇實例化為可計算、可維護、可追溯的技術實體的實踐領域，構成了從理論到應用的必經橋樑。傳統的本體構建依賴領域專家的人工參與，流程漫長且成本高昂，難以適應知識快速更新的節奏。然而，大型語言模型的出現，正在從根本上重塑本體工程的實踐形態。 在類定義、關係抽取、屬性構建等核心本體學習任務中，語言模型能夠以遠超人工作業的效率，完成大規模知識的結構化提取。語言模型在識別概念之間的層級關係、同義關係與關聯關係上展現出的語義敏感度，使得本體構建從「專家手工編制」演進為「人機協作生產」，甚至「自動生成式構建」。這個轉變的意義不僅在於效率提升，更在於它使本體構建具備了前所未有的可擴展性與領域覆蓋度，讓原本只有少數關鍵領域才能享有的本體支持，開始向更多垂直場景與快速變化的知識領域開放。 與此同時，本體工程的反向賦能同樣不可忽視。大型語言模型雖然強大，但其推理過程的不可見性、輸出的不可驗證性，以及對訓練數據統計規律的依賴，共同構成了可解釋性的根本障礙。本體在此扮演多重的工程角色：它作為結構化的知識供給者，為模型提供經過驗證的領域知識底座；作為推理的校驗框架，對模型的輸出進行一致性約束與邏輯校準；更根本地，它作為解釋的錨定結構，使模型的每一步推理都能夠被映射到明確定義的類、屬性和關係之上。當一個模型的輸出可以追溯至其所依賴的本體條目時，解釋便不再依賴於對神經網絡內部狀態的猜測，而是建立在對知識結構本身的追溯之上。這正是可解釋性從「透視黑箱」向「展示知識結構」轉變的工程基礎。 在這場雙向融合中，「AI友好的本體框架」成為一個關鍵的工程命題。傳統本體面向描述邏輯推理機設計，其語法、公理與推理機制均圍繞確定性符號推演優化；而大型語言模型的介入，從根本上改變了本體的消費者形態與使用場景。本體的職責應當收斂，專注於清晰定義領域中的對象、關係、行為與規則，為模型提供推理所依賴的「語義骨架」；而具體的推理過程，例如規則的選取、組合與應用，則交還給語言模型自身的泛化能力。這樣的本體既非替代模型推理的符號引擎，也非僅供查閱的靜態背景資料，而是嵌入推理鏈路之中、可被即時調用與追溯的解釋性基礎設施。 著名科幻作家斯坦尼斯瓦夫·萊姆在《索拉里斯星》中，描述了一片覆蓋整個星球、能讀取人類記憶並將其具象化的膠質海洋。這片海洋堪稱「AI黑箱」的終極隱喻，它能處理海量資訊、生成超越人類預期的結果，但底層邏輯對人類而言完全無法解碼。這個意象恰恰警示我們：即便能夠觀測到模型「正在想什麼」，也未必能理解它「為什麼這樣想」。可解釋性問題的真正難點，或許不在於技術手段的不足，而在於問題框架本身的窄化。 突破大型語言模型可解釋性的可行路徑，不應僅限於嘗試「打開黑盒」這單一方向，而應同等重視，甚至更加重視對模型輸出及其現實影響的觀察、理解與控制。本體工程在此提供了關鍵的實踐框架：透過構建AI友好、可被模型調用與追溯的語義骨架，我們得以將模型的推理錨定在明確定義的知識結構之上，使輸出所依賴的類、屬性和關係獲得可形式化描述與可追溯驗證的工程基礎。當模型的每一個陳述都可以被映射到本體所定義的概念框架中時，「解釋」便不再是對神經網絡權重的解剖，而是對知識結構的展示。這項視角的轉換，將可解釋性從一項近乎不可能完成的技術挑戰，轉化為一項可透過工程手段持續逼近的治理目標。