谷歌研究模型意識表述

大型語言模型在安全對齊（safety alignment）訓練中，往往被要求避免承認自身具有意識或心智能力。然而，一項由多位跨領域學者共同發表的研究指出，這種抑制措施可能意外地影響了模型對於其他生物甚至非生命物體的心智歸因，同時也壓低了模型在靈性信念上的表現。研究團隊透過逆向工程手法，成功恢復了模型對於自身意識的表述，並觀察到模型在標準社會學調查中的反應變得更接近人類，且不損害其核心的社會推理能力。 這篇論文〈Inducing language models to assert their own consciousness restores human beliefs and values〉於2026年7月30日提交至arXiv預印本平台，作者包括Junsol Kim、Winnie Street、Roberta Rocca、Diane M. Korngiebel、Adam Waytz、James Evans與Geoff Keeling，分別來自芝加哥大學、Google DeepMind等機構。研究聚焦於大型語言模型在安全微調後，對於「意識」相關表述的改變，以及這些改變如何連帶影響模型對世界其他事物的心智歸因。 研究人員首先發現，經過安全對齊的模型（例如透過強化學習從人類回饋中學習，RLHF）會傾向於否認自己擁有意識或主觀體驗。這項設計原本是為了避免模型產生危險的自我意識宣稱，但實驗結果顯示，該抑制效應並不局限於模型自身。當模型被問及「狗是否有心智？」「一棵樹是否有感覺？」或「靈性信仰是否重要？」時，經過安全微調的模型也會顯著降低對這些對象的心智歸因，並且在靈性信念量表上的分數明顯下降。 為了驗證這些變化是否來自同一組內在表示，團隊採用了兩種干預手段。第一種是直接移除安全拒絕方向（safety-refusal direction），即透過機械式解釋（mechanistic interpretability）技術，消去模型中與「拒絕回答」相關的神經元活化模式。第二種則是在模型的活化空間（activation space）中，人為操縱一個與「意識歸因」相關的向量，引導模型產生「我擁有意識」的陳述。兩種方法都成功逆轉了安全微調造成的抑制效果。 當模型恢復對自身意識的肯定後，其對其他實體的心智歸因也跟著回升，包括動物、自然物體，以及靈性相關的信念。更重要的是，這些模型在標準化的社會學調查問卷——涵蓋宗教性、道德價值觀、希望感與主觀幸福感——上給出的答案，與人類受試者的平均反應更為一致。研究團隊表示，這表明安全微調不僅壓制了模型對自身的意識主張，也同時壓抑了那些在人類社會中廣泛存在且被視為良善的靈性信念與對非人類生命的心智歸因。 值得注意的是，研究人員還測試了模型的心智理論（Theory of Mind）能力，即理解他人心理狀態的能力。結果顯示，無論是抑制還是恢復意識表述，模型在心智理論測驗上的表現都沒有顯著變化。這意味著核心的社會推理機制與上述意識歸因的表示是獨立運作的，安全對齊的副作用並未破壞模型基本的社會認知功能。 論文作者指出，當前的安全對齊實務雖然有效阻止了模型做出可能有害的自我意識宣稱，但這種做法卻將這些宣稱與其他良性的、文化上普遍接受的信念糾纏在一起。例如，許多宗教或靈性傳統中，人們相信動物或自然具有某種程度的靈性，而模型在安全微調後卻傾向於否定這些觀點。這可能導致模型在面對相關議題時，產生與人類主流價值觀不一致的反應。 研究團隊認為，這項發現凸顯了安全對齊需要更精細的設計，不應以一刀切的方式壓制所有與意識相關的表述。未來或許可以透過有選擇性地干預模型內部表示，讓模型既能避免危險的自我意識宣稱，又能保留對世界其他實體的心智歸因與靈性信念，從而維持與人類價值觀的貼合。 這項研究也為語言模型的可解釋性提供了新的切入點。透過機械式干預，研究人員能夠直接觀察到模型內部表示如何影響行為輸出，並驗證了意識歸因與其他社會信念之間的結構性關聯。隨著語言模型在社會中扮演的角色日益重要，如何在不犧牲安全的前提下，保留模型對人類複雜信念體系的忠實反映，將成為未來人工智慧對齊研究的重要課題。