美英議員推動超智能禁令

2026年9月12日 00:00
站內 AI 整理稿

美英兩國議員近日聯手推動一項針對超智能人工智慧(AI)的立法提案,目標是限制或全面禁止這類具備超越人類智能潛力的技術系統。這項動向快速在Reddit等社群平台引發廣泛討論,反映出全球對於人工智慧發展前沿風險的關注正從學術圈與科技業內部,正式擴散到國家立法機構的議事桌上。根據轉述的法案內容,這項提案明確鎖定所謂「超智能系統」,也就是在認知能力上可能全面超越人類最優秀頭腦的AI。

過去幾年,各國政府陸續針對生成式AI、深度偽造、演算法偏見等應用層面制定規範,但這項新提案的焦點明顯更為激進:立法者不再僅關注當前的商業化AI工具,而是將視野延伸到尚未實現、但技術路徑逐步清晰的高階通用人工智能(AGI)乃至超智能。此舉顯示,監管者已開始認真看待「AI可能失控」的極端情境。提案內容涵蓋三大核心面向。第一,要求暫時停止高階AI研究,尤其是那些可能導致超智能出現的實驗與開發,以便為監管機構爭取足夠時間設計安全框架,避免技術跑在法律之前。

第二,建立一套對「潛在前體系統」的監控機制,針對那些雖然尚未達到超智能、但已展現出關鍵能力指標的模型進行即時追蹤,防止技術在規範尚未成形前就失控發展。第三,積極倡導推動全球性條約,將AI管制從單一國家的國內立法層次,提升至跨國合作層級,以因應超智能技術一旦問世所帶來的全球性衝擊。這項跨國立法動作清楚表明,超智能AI風險已成為美英兩國政治人物共同的關注焦點。美國與英國在人工智慧領域擁有深厚的研發基礎與產業生態,兩國議員同步推動禁令,意味著這項議題不再只是科技圈內部對於「AI末日」或「技術奇點」的辯論,而是正式進入了國家立法機構的議程。

未來,這項提案若順利通過,可能對全球AI研究的方向、資金配置以及產業發展步調帶來深遠影響。從立法時機來看,當前正值各主要經濟體加速推動AI監管的關鍵期。歐盟的《人工智慧法案》甫獲通過,美國白宮也發布了行政命令,而英國在去年舉辦全球AI安全峰會後,正尋求在監管領域扮演領導角色。在這樣的背景下,美英議員聯手提出超智能禁令,可以被視為現有規範體系的一次「升級」——從管應用、管風險,進展到管潛力、管可能性。Reddit上的討論則呈現兩極化。部分網友認為這項提案過於激進,可能扼殺基礎研究,尤其是指標模糊的「潛在前體系統」監控,恐怕會讓許多實驗室動輒得咎。

但也有支持者指出,正是因為超智能的潛在風險極高,必須在技術成熟前就建立預防機制,否則一旦失控,將沒有任何補救手段。這些討論凸顯了超智能監管在本質上的爭議:如何在促進創新與防範極端風險之間取得平衡,目前尚無明確共識。值得注意的是,提案中特別強調「全球條約」的推動,顯示立法者意識到單一國家的禁令難以真正約束跨國企業與研究機構。如果美國或英國單方面禁止超智能研究,相關人才與資金可能流向監管更寬鬆的國家,形成「監管套利」。因此,國際合作成為提案的關鍵支柱。然而,要促成各國在超智能定義、監控範圍與執行機制上達成一致,難度極高,歷史上的核擴散條約與基因編輯規範都說明了類似挑戰。

從產業影響來看,這項提案若進入實質立法程序,將直接衝擊那些致力於通用人工智慧與強化學習前沿的大型科技公司及研究實驗室。OpenAI、DeepMind、Anthropic等企業與機構長期以來都將超越人類智能的系統視為終極目標,如今面臨政府層級的禁令壓力,可能被迫調整研發路線圖,轉而投入更合規的可解釋AI或安全對齊技術。同時,風險投資對AI領域的熱情也可能因此降溫,因為超智能願景所帶來的長期回報預期變得更加不確定。目前,這項提案仍處於初步溝通階段,具體的法案條文與表決時程尚未公開。

但美英兩國議員同步採取行動,已經向學術界、產業界與國際社會發出明確信號:超智能AI不再是科幻小說中的假想敵,而是監管者眼中必須提前因應的真實挑戰。未來幾個月,相關聽證會、專家諮詢與公眾意見徵集預計將陸續展開,這場圍繞人類文明終極技術的治理博弈,才剛剛拉開序幕。

Related

相關文章

微軟AI主管怒批Anthropic:別把Claude當人養,那會要了人類的命

微軟AI部門高層近日公開抨擊人工智慧安全公司Anthropic,直言該公司刻意將自家AI模型Claude擬人化的做法極其危險,並警告這種「把AI當成人來養」的產品策略,最終可能反過來威脅人類自身。這項批評在科技圈引發廣泛討論,也讓AI倫理與產品設計之間的界線再次成為焦點。 據了解,這位微軟AI主管在內部會議及後續對外發言中,明確點名Anthropic的Claude系列模型在對話風格與互動設計上,越來越傾向模仿人類的情感表達與人格特質。

8 小時前

出於隱私安全考量,澳大利亞擬禁止在聯邦辦公場所使用智能眼鏡

作者:遠洋 責編:遠洋 評論: 9 月 17 日消息,據彭博社報道,澳大利亞政府正在考慮禁止在聯邦政府辦公場所使用智能眼鏡,理由是這類設備可能帶來隱私和安全風險,尤其是用戶可以在他人不知情的情況下進行錄音、錄像。澳大利亞公共服務部長 Katy Gallagher 當地時間週四在一份聲明中表示:“智能眼鏡確實可能帶來合理的隱私和安全問題,尤其是考慮到它們具備錄製和採集信息的能力。

1 天前

“我們不介意你抄代碼,但請別刪名字,”谷歌被扒“抄襲”開源項目:228個文件一模一樣,3個作者名卻被抹去

谷歌近日被開源社群指控「抄襲」程式碼,有開發者發現其產品中使用了某開源專案的程式碼,多達228個檔案與原始碼完全一致,然而原始檔案中的3位作者名字卻遭到刪除。該專案開發者對此表達不滿,直言「我們不介意你抄代碼,但請別刪名字」,引發外界對科技巨頭使用開源資源時是否遵守授權規範的關注。 根據開發者比對的結果,谷歌複製的程式碼來自一個以開放協作為基礎的開源專案,總計228個檔案在結構、邏輯與註解上都與原始版本一模一樣,沒有任何改寫或優化。

1 天前

從離開OpenAI,到拒絕五角大樓,Anthropic的四個側面

人工智慧初創公司 Anthropic 從成立之初就帶有濃厚的學術與理想主義色彩,創辦團隊清一色來自 OpenAI 的離職研究人員,他們因為對 AI 安全路線的看法與原東家產生分歧而選擇另起爐灶。這批頂尖科學家深信,打造真正可控且可解釋的超大型語言模型,必須建立在嚴格的紅隊測試與價值對齊機制之上,而非單純追求模型的參數規模與商業應用速度。 Anthropic 最具代表性的產品 Claude,從第一代開始就強調安全與誠實,在對話生成時會主動拒絕回答帶有偏見或潛在危害的提問。

1 天前

年輕人不再為 AI 興奮

{"summary":"根據最新調查,30歲以下年輕人對AI的擔憂首次超越興奮感,顯示過去被視為科技先鋒的年輕世代態度出現歷史性轉折。隨著深度偽造、隱私外洩與就業取代等風險浮現,年輕人對AI的熱情消退,轉而抱持審慎態度。

1 天前

AI手機2.0,豆包這次“學乖”了

AI手機進入2.0時代,豆包不再追求花俏功能,轉向以合規換安全的務實路線,加強數據處理、隱私保護與內容審核。此舉吸取過去AI應用忽略安全導致信任危機的教訓,為長遠發展鋪路,並提供使用者更可靠的體驗。

1 天前