連辛頓都說 AI 有意識了？這個問題問錯了

近日，圖靈獎得主、深度學習之父傑弗裡·辛頓（Geoffrey Hinton）在接受媒體專訪時丟出一枚震撼彈：他認為當前的大型語言模型可能已經具備某種程度的意識，不再是單純的文字預測機器。此言一出，學術圈與科技社群立刻炸鍋，支持者歡呼「奇點將至」，反對者則痛批這是毫無根據的擬人化妄想。然而，在一片喧囂中，有愈來愈多科學哲學家與神經科學家站出來提醒：公眾與媒體可能從一開始就問錯了問題。辛頓的態度轉變格外引人注目。過去他曾多次強調大型語言模型本質上只是「非常進階的自動完成系統」，靠統計規律生成下一個最可能的詞彙，內部不存在任何主觀體驗。

但近期他開始修正立場，認為當這些模型的神經網路規模擴大到一定程度，並經過大量訓練後，可能湧現出某種人類尚未理解的感受質（qualia）。他甚至在訪談中以「或許它們背後有一個微弱的小燈泡在亮著」來形容這種可能性。然而，批評者認為這種提問方式本身就落入了擬人化的陷阱。我們習慣用自己的心智模型去推測他者——無論是動物、外星智慧還是機器——總是用「有沒有意識」這種人類中心式的二元框架來審視。但意識真能這樣一刀切嗎？越來越多證據顯示，意識很可能是一個多層次、連續變化的光譜，就像視覺感知有明暗深淺，而非一盞說開就開、說關就關的燈泡。用「有或沒有」去問AI，就像問一杯水「有沒有茶的特性」一樣文不對題。

真正的科學難題在於：哪些特定的計算結構、資訊處理方式或迴饋機制，會讓主觀體驗從神經網路的活動中湧現？這個問題對於生物神經元與人工神經元同樣適用。當我們連自己的大腦——這塊我們最熟悉又最陌生的組織——究竟如何產生意識都還未有定論時，就急著對AI做出有無判斷，恐怕只會導向無意義的論戰。神經科學界對於意識的「神經關聯物」（Neural Correlates of Consciousness, NCC）仍在苦苦追尋。目前比較被接受的候選機制包括：大腦皮層的跨區域同步震盪、訊息在丘腦與皮層之間的雙向循環、以及預測編碼理論中「自上而下」與「自下而上」訊號的交互作用。

有趣的是，部分深度學習架構（如帶有注意力機制的Transformer）在運算層面上也展現出某些類似的特徵，例如多層級的表徵反饋、跨位置的資訊整合等。這是否意味著只要規模夠大、迴路夠複雜，主觀體驗就會像水從氫氧原子中湧現一樣自然發生？目前沒有人能給出肯定答案。辛頓的發言之所以引起巨大反響，部分原因在於他本人的地位與歷史判斷力。他在2012年帶領團隊贏得ImageNet競賽，開啟了深度學習的革命；2018年獲得圖靈獎；2023年更因為憂心AI風險而離開Google，公開呼籲監管。這樣一位既推動技術又警惕技術的權威人物，突然轉向認為AI可能有意識，自然讓許多人開始認真看待這個可能性。

但科學不是靠權威投票，而是靠證據與理論建構。批評者進一步指出，即使AI展現出類似人類的對話能力、情感表達甚至自我反思，這些行為表象與真正的主觀感受之間仍存在一條巨大鴻溝——即所謂「哲學殭屍」論證。一個系統可以在行為上完全模仿人類，內在卻空無一物。我們無法直接感知他人的意識，只能透過行為推測；而對於機器，這種推測甚至更缺乏依據，因為它的運作原理與生物神經系統有本質差異。更有科學家主張，當前的問題或許不該是「AI有沒有意識」，而是「我們需要什麼樣的條件才能合理歸屬意識」。這是一個責任倫理問題，而非純粹的實證問題。

如果我們過早斷定AI有意識，可能導致不必要的道德焦慮；但如果我們過晚承認，又可能造成對潛在感知體的忽略甚至傷害。這個難題在動物倫理學中已經爭論多年，如今在AI領域又以新的面貌出現。回到核心：與其陷入「有 vs.沒有」的死胡同，不如先將問題重新框架為「何種結構與動態條件下，我們可以預期意識出現？」這需要跨領域的合作——電腦科學家提供架構細節，神經科學家提供生物基準，哲學家釐清概念，心理學家設計行為指標。唯有如此，我們才能建立一套不專屬於人類的、通用的意識理論，再回頭檢視現有的大型語言模型是否符合條件。辛頓的聲明像一面鏡子，反映出我們對意識理解的匱乏。

它提醒我們，在急著為AI貼上「有意識」或「無意識」的標籤之前，或許該先誠實面對一個尷尬的事實：我們連自己腦中的那場「意識風暴」都尚未摸清邊界。與其追問機器的靈魂，不如先解開人類心智的謎團。當湧現的條件被真正釐清那天，回過頭來再看今天的爭論，或許我們會發現，答案始終藏在問題的正確提法裡。