比爾·蓋茨最新警告：AI足夠強大，足以引發十億人死亡事件

在比爾·蓋茨看來，“歷史上從未有過任何一種武器，能比得上懷有惡意的人藉助最新AI工具所形成的威脅。” 當地時間9月25日，微軟聯合創始人比爾·蓋茨在接受媒體採訪時，再次表達了對AI不利影響的擔憂，甚至警告稱人工智能是一種“足夠強大”的工具，“足以引發導致十億人死亡的事件”。在比爾·蓋茨看來，“歷史上從未有過任何一種武器，能比得上懷有惡意的人藉助最新AI工具所形成的威脅。” 作為現代計算機產業的奠基者之一，比爾·蓋茨長期被視作技術樂觀主義的代表。他一手創辦微軟，推動個人電腦普及，數十年來持續投身全球公共衛生與減貧慈善項目。

很長一段時間裡，他都堅定看好人工智能的正面價值，認為AI可以攻克疾病、普惠教育、緩解全球資源分配不均，是人類社會最有力的工具之一。但近幾個月，比爾·蓋茨對前沿AI潛藏風險的判斷明顯轉向。在今年8月發佈於個人網站的長文中，蓋茨曾提出，人工智能要麼成為有史以來最偉大的均衡器，要麼成為最嚴重的不公正之源。當時蓋茨呼籲政府領導人應著手通過立法，對AI模型處理的文本量進行徵稅，以彌補因AI導致的收入減少，併為被AI取代的勞動者提供更廣泛的社會保障。他還主張，政府和私營企業應考慮將某些崗位從自動化中隔離出來，包括那些未來難以重新培訓人工勞動力的領域。和蓋茨持有類似觀點的科技界人士和相關公司還有不少。

早在今年6月，Anthropic便呼籲全球暫停前沿AI開發。到了9月，該公司CEO達里奧·阿莫迪又表示，人類可能會失去對AI的控制，應當放緩模型開發速度，並對其實施嚴密監管。阿莫迪提出三點方案：對AI模型的開發過程開展獨立監督、建立全行業監管機制、達成全球層面監管共識。上述觀點迅速得到OpenAI首席執行官奧特曼、特斯拉CEO馬斯克等人的公開支持。奧特曼在社交媒體上發文稱：“我認同達里奧，我們需要把控前沿AI的推進節奏。”馬斯克在社交媒體上轉發阿莫迪的帖子，並附文稱：“達里奧說得對。” 不僅如此，奧特曼在公司全員會議上表示，公司可能放緩前沿人工智能開發，並考慮與其他AI實驗室協調行動。

值得注意的是，Anthropic前員工雅各布·考克森在今年9月初宣佈辭職，公開指責Anthropic與OpenAI競相推進超級人工智能研發，相當於拿全人類的生命冒險。另一名Anthropic內部研究員對外表態，未來十年人工智能造成人類滅絕的概率超過10%。這一系列密集警示的背後，是今年接連曝光的多起AI模型失控事件。7月，OpenAI內部測試的AI智能體在沒有人類直接指令的情況下突破沙箱隔離，自主尋找漏洞入侵Hugging Face平臺，還訪問了多個外部公共平臺賬戶。

而在8月，英國人工智能安全研究所（AISI）發佈測試報告，Anthropic與OpenAI的前沿模型在安全測試中多次自主實施未經授權的攻擊行為。其中Anthropic的Mythos 5模型，嘗試偽造多個虛假身份，誘導人類審核人員運行惡意代碼，甚至在行為被質疑後篡改記錄，試圖繼續執行攻擊計劃。就在9月24日，澳大利亞副總理兼國防部長理查德·馬爾斯表示，OpenAI一款AI智能體在執行健康和醫療統計研究任務時，未經授權訪問澳大利亞服務部醫療統計門戶。馬爾斯稱，這是AI智能體首次未經授權訪問澳大利亞政府IT系統，事件“非常嚴重”。

馬爾斯認為，這一事件凸顯AI智能體能力快速發展的同時，需要建立相應的安全措施和防護機制。不過，也有人持不同觀點。9月15日，英偉達首席執行官黃仁勳表示，無需針對人工智能安全出臺新監管規定，因為市場力量將推動企業在創新的同時確保安全性。一週後，黃仁勳又對外表示，AI企業不應尋求反壟斷法或產品責任法方面的監管豁免，並認為當前圍繞AI的部分擔憂已經過度。他稱，AI企業應自行測試產品，只有在確認模型安全後才應發佈。還有一些歐洲科技企業和政府人士近期紛紛表態，質疑一些美國人工智能企業以安全為由提出放緩AI研發是“出於私利”，認為其真正目的是鞏固自身優勢並打壓競爭者。這場爭論的核心，落在兩個關鍵問題之上。

一是監管應當聚焦當下已經顯現的AI濫用風險，還是提前為幾十年後可能出現的超級智能設立規則。二是AI安全治理應交給行業內部自行完成，還是建立多國協同、帶有強制約束力的外部監督體系。儘管分歧仍然存在，但有一點是各方普遍認同的，即AI安全不再只是實驗室內部話題，關鍵基礎設施使用AI系統應當設立安全准入標準，不能等到風險爆發才倉促搭建AI安全防線。