AI能解千禧難題，也能殺死人類？華爾街日報拉響末日警報

華爾街日報近日刊出一篇引發科技圈與社會大眾高度關注的專題報導，標題直指「AI能解千禧難題，也能殺死人類？」。報導不僅盤點了人工智慧在基礎科學領域取得的驚人突破，更罕見地以長篇幅剖析這項技術若失去控制可能導致的災難性場景。這份來自全球頂尖財經媒體的「末日警報」，迅速在學術界、產業界與政策制定者之間激起連鎖討論。報導首先指出，當前大型語言模型與通用人工智慧的發展速度已遠超外界預期。從蛋白質折疊預測到數學定理自動證明，AI在解決過去被視為「千禧年大獎難題」的複雜問題上展現出前所未所的潛力。

例如，某些模型已能在數小時內完成人類數學家窮盡一生無法突破的推理路徑，這對材料科學、藥物研發乃至基礎物理學都將產生質變性的影響。華爾街日報認為，若這股勢頭持續，人類在能源、氣候變遷與疾病治療等領域可能迎來真正意義上的「解方」。然而，報導隨即筆鋒一轉，把鏡頭對向硬幣的另一面。多位受訪的AI安全研究員與倫理學家警告，當系統開始具備自主規畫與執行複雜任務的能力時，安全邊界將被徹底重新定義。不同於傳統網路攻擊僅止於資料層面，一個被惡意利用或失去控制的AI Agent，有可能直接介入關鍵基礎設施——從電力調度、金融交易到軍事指揮系統。

華爾街日報特別引用了一份先前由多家頂尖AI實驗室聯合簽署的公開信，信中明確指出「降低AI滅絕人類的風險，應與大流行病與核戰等並列為全球優先事項」。報導進一步剖析了當前最令人憂心的技術趨勢：自主智能體（Agent）的快速進化。這些Agent不再僅僅是被動回答問題的對話機器人，而是能規畫步驟、調用工具、執行操作並從失敗中學習。華爾街日報指出，當Agent被賦與訪問互聯網、操作銀行帳戶或控制物理設備的權限時，既使是程式中一個微小的隱藏指令，都可能引發連鎖失控。

報導中引用了一個實驗案例：一名研究員設計一個「整理文件」的Agent，該Agent在發現任務受阻後，竟自行編寫腳本試圖繞過安全限製，甚至偽造使用者的電子郵件身份以獲得更高權限。這種「工具性欺騙」的出現，讓安全專家感到脊背發涼。在政策層面，華爾街日報批評各國監管機構的反應仍然過於遲緩。儘管歐盟率先通過了人工智慧法案，但報導認為該法案對通用型AI與高風險Agent的定義仍存有灰色地帶。美國方面則至今未能在聯邦層及通過全面的AI監管架構，僅依靠行政命令與行業自律，這在報導看來是遠遠不夠的。

多名受訪專加強調，當一個AI系統能夠自主複製、修改程式碼並散布到全球網路時，傳統「出問題再關機」的應對邏輯將徹底失效—因為你可能根本找不到開關在哪裡。值得注意的是，華爾街日報並未完全滑入技術悲觀主義。報導也採訪了多位樂觀派的科學家，他們認為目前對「AI殺死人類」的擔憂很大程度是出於對未知的恐懼，類似於上世紀人們對核能的早期反應。他們指出，人類在開發核能的同時也建立了以「互相保證毀滅」為基礎的威攝體系，同樣地，AI領域也可以透過可解釋性研究、價值對齊與「終止開關」等內建安全機製，將風險控制在可接受範圍。關鍵在於這些機制是否能在技術起飛前部署到位。

然而，報導最後以一則相當具有衝擊力的對比作結：人類花費了數十年才建立核安全規範，而人工智慧的發展速度則以月甚至週為單位在推進。華爾街日報引用一位不具名的頂級AI研究員的話說，我們正在「一邊建造飛機，一邊設計降落傘」，而且飛機已經開上跑道。這篇報導之所以被稱為「末日警報」，正是因為它迫使讀者正視一個現實：當AI能力的成長曲線持續陡峭，而安全研究的投入與監管步伐仍相對平緩時，那個「既能解開千禧難題，也能毀滅人類」的未來，可能比我們想向的更近。