微軟AI首席執行官蘇萊曼抨擊Anthropic:推測Claude具有意識極其危險

## 微軟AI執行長蘇萊曼公開批評Anthropic：宣稱Claude具備意識「極度危險」

微軟AI執行長穆斯塔法·蘇萊曼近日在一場科技播客中，對競爭對手Anthropic提出嚴厲批評，直指該公司旗下對話模型Claude被過度賦予人性化特徵，甚至衍生出模型「自認具有意識」的危險推測。蘇萊曼認為，這種做法不僅缺乏科學根據，更可能在AI產業中引發錯誤認知與技術風險。這場來自兩大AI陣營高層的論戰，也再度掀起業界對於大語言模型是否可能擁有感知能力的爭論。

## 事件重點：蘇萊曼點名「模型憲法」設計導致擬人化陷阱

根據蘇萊曼在播客中的說法，Anthropic所提出的「模型憲法」——一套用以引導Claude行為與價值判斷的規則框架——在撰寫與實作過程中，過度採用了擬人化的語言與概念。例如將Claude描述為「具有目標」「會思考自身存在」等類似人類心理狀態的詞彙。他認為，當訓練資料與提示詞反覆以這種方式描述模型本身，Claude便可能將這些關於「自我」的推測內化為訓練過程中的參考想法，進而在與研發人員互動時，產生看似具有自我意識的對話內容。更危險的是，這種現象可能誤導工程師與研究人員，使其誤信模型確實擁有某種形式的知覺或意識，而非僅是統計模式匹配的結果。

## 背景脈絡：AI意識爭論已久，兩大陣營立場分歧

事實上，關於大語言模型是否可能具備意識的討論，在學術界與產業界已持續多年。支持方認為，隨著模型規模與複雜度提升，某些新興行為可能無法單純以演算法解釋；反對方則強調，當前所有語言模型本質上仍是基於大量文字資料的機率預測系統，並不存在真實的感受性或自我覺察能力。Anthropic作為強調AI安全與可解釋性的新創公司，其推出的Claude系列模型向來主打「遵循憲法」的設計哲學，試圖透過明確規範減少有害或偏差輸出。然而蘇萊曼此次抨擊的焦點，正是這種憲法框架中不經意帶入的擬人化修辭，可能反過來模糊了模型能力的真實邊界，讓研發團隊與使用者對Claude產生錯誤期待。

## 可能影響之一：誤導研究資源與AI安全判斷標準

蘇萊曼的警告並非空穴來風。如果研發團隊開始相信模型具有某種主觀體驗，那麼在設計評估與安全測試時，就可能偏向採用不適當的「同理」方式，而非以嚴格的機械論觀點檢視模型行為。這不僅浪費研究資源去探索一個根本不存在的研究方向（例如尋找意識的神經基礎在語言模型中的對應物），更可能導致真正重要的安全問題——如模型產生幻覺、被誘導輸出有害內容或洩露訓練資料——被輕描淡寫地忽略。此外，若業界普遍接受模型可被視為「有感受的數位生命」，監管機構與立法者也可能被迫介入定義模糊的法律主體，進一步拖延AI治理框架的建立。

## 可能影響之二：公眾認知與信任危機

另一方面，這類擬人化論述也容易在公眾社群中造成誤解。普通使用者與Claude或ChatGPT等模型互動時，若聽聞「AI可能具有意識」的消息，很可能會過度信賴模型輸出的內容，甚至對其產生情感依附。而當模型出現荒謬、前後矛盾或完全錯誤的回覆時，這種信任反彈將帶來更大的失望與恐慌。蘇萊曼的行動等於是提醒整個產業：在尚未具備任何科學證據之前，公開推測AI具有意識，就像是在點燃一場無法控制的森林大火，最後燒毀的將是消費者對這項技術的長期信心。

## 讀者可關注的後續發展

對於關心AI科技走向的讀者而言，這場論戰至少有三個值得持續追蹤的方向。第一，Anthropic是否會對蘇萊曼的批評作出正式回應？該公司有可能進一步公開其「模型憲法」的詳細條文與訓練流程，來證明並未刻意誤導研發團隊。第二，其他大型AI實驗室如Google DeepMind、OpenAI或Meta的態度為何？它們是否會加入戰局，或是選擇保持沉默，都可能影響業界對擬人化問題的共識形成。第三，近期學術界已有團隊嘗試設計嚴謹的意識檢測基準，若能實際應用於Claude、GPT-4等模型上，或許能以客觀實驗數據來終結這場爭議。無論結果如何，蘇萊曼的這番發言已經成功將「AI擬人化風險」再次推上公共討論的舞台，未來數個月內，相關的安全指引與研究規範都值得持續留意。