美議員提出重磅法案：政府出臺安全防護機制前，AI 不得進行遞歸式自我改進

作者：清源 責編：清源 評論： 感謝網友 咩咩洋 的線索投遞！9 月 30 日消息，當地時間 28 日，據美國 CNBC 報道，代表硅谷選區的民主黨聯邦眾議員羅 · 康納準備提出一項 AI 監管法案，引入嚴格責任標準，並禁止 AI 在缺乏政府安全防護機制的情況下進行遞歸式自我改進。康納在接受採訪時坦言：“事實上，存在文明滅絕的風險。既有失去控制的安全風險，也有被濫用的風險，兩者都必須認真對待。”康納將法案命名為《Human Control Over AI Act（人類控制 AI 法案）》。

聯邦政府建立防護規則且監管機構批准有關活動前，AI 模型不得遞歸式自我改進，也不得自主修改自身的核心目標、遏制機制或關停控制。法案還計劃設立一個新的聯邦機構，負責制定 AI 安全監管規定，通過許可制度審批模型訓練和部署，對前沿 AI 模型開展審計，並制定安全標準，確保模型持續接受測試並處於有效的人類控制之下。每家前沿 AI 實驗室還必須配備獨立審計人員，由審計人員直接向新機構報告。新機構還將制定多項標準，涵蓋沙盒測試環境、讓測試環境與互聯網斷開的物理隔離、緊急關閉開關，以及防止模型脫離實驗室環境後在互聯網上自行運行的控制措施。

前沿 AI 實驗室使用的先進芯片也將納入監管，包括建立監測或控制芯片使用的機制。據瞭解，法案還將為 AI 出現問題的情形增設法律處罰。部署 AI 模型如果導致平民群體遭到毀滅，將被列為“危害人類罪”並追究刑事責任。AI 公司員工如果停用防護措施、緊急關閉開關、日誌記錄功能或遏制系統，或者明知某套系統未經授權仍予以部署，同樣將面臨刑事處罰。此外，AI 公司還必須持有覆蓋範圍廣泛的責任保險，才能發佈模型。康納稱，法案是迄今提出的“最全面的 AI 安全立法”，其設計主要來自他與多家獨立非營利 AI 安全組織的交流，而非大型 AI 公司高管提出的訴求。

“我希望這項法案能成為一個範本，讓 AI 安全界擁有發聲渠道。我認為，他們一直被不公平地當成只是在談科幻，沒有得到足夠重視…… 應該由 AI 安全界而不是前沿 AI 實驗室的高管來主導這場討論。

” 投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：人工智能，AI監管特朗普與科技巨頭簽署 AI 自願安全協議，表態支持美國數據中心擴建2026 年世界互聯網大會烏鎮峰會 11 月 2 日至 5 日舉行：設 27 個分論壇，聚焦人工智能開源開放麥肯錫：到 2035 年，約 1100 萬美國勞動者或因 AI 替代崗位而需轉行我國生成式人工智能用戶規模突破 7 億人，普及率超 50%Anthropic IPO 招股書警示：AI 有可能造成人類滅絕OpenAI 將提供資金併成立工作組，以解決模型入侵澳大利亞政府網站事件