美國AI安全新規出爐，最強閉源模型自願送測，開放權重直接放行

美國白宮近日正式公布一套備受關注的AI安全新框架，針對國內最強的前沿模型建立自願送測機制，並明確區分閉源與開放權重模型的監管責任。根據多家外媒報導，這項醞釀兩個月的框架已在8月4日一場由白宮召集的會議中，向OpenAI、Anthropic、谷歌、Meta、英偉達等主要AI業者說明，並已完成定稿。新框架的源頭可追溯至2026年6月2日簽署的第14409號行政令，該命令要求政府在60天內建立一套機密評測流程，用於評估前沿模型的潛在風險。 這項新規的核心目標，是鎖定那些達到特定網路能力門檻的美國閉源前沿模型。所謂「閉源模型」，指的是由企業自主開發、不公開模型權重與訓練細節的AI系統；而「開放權重」模型則允許外部開發者直接下載並修改模型參數。根據《華爾街日報》與Axios等媒體取得的框架細節，第一批可能被要求送檢的模型，幾乎確定來自OpenAI、Anthropic與谷歌這三家持有最強閉源模型的業者。換句話說，目前市場上最受矚目的幾款生成式AI模型，短期內都將納入政府監管視野。 相較之下，主打開放權重路線的企業則暫時獲得豁免。例如馬斯克旗下的SpaceX，以及Meta，它們所釋出的開放權重模型在現階段無須送交政府進行安全評測。這項安排凸顯美國監管機構對不同技術路線的差異化態度：閉源模型由於內部運作不透明，且可能被用於惡意用途，被視為需要更高層級審查的對象；而開放權重模型雖然也具備風險，但因可被社群廣泛檢視與修改，反而被認為具有較高的自我糾錯潛力。 值得注意的是，這套框架並非強制性命令，而是採取「自願送測」機制。白宮官員強調，這項設計是為了在鼓勵創新與確保安全之間取得平衡，避免過度干預阻礙AI產業發展。然而，業界普遍認為，一旦部分企業自願送測並獲得政府背書，未送測的模型將面臨市場信任危機，因此實際上形同半強制要求。此外，若未來出現重大AI安全事故，監管機構也有權加速推動強制性法規。 框架的具體評測流程目前仍屬機密，但白宮已透露，將由國家標準與技術研究院（NIST）主導，針對模型在網路攻擊、生物武器設計、社會操縱等領域的潛在危害進行測試。測試結果僅供政府內部使用，不會公開模型細節，以保護企業商業機密。這也呼應了業界對「送測等同於交出核心技術」的擔憂。 第14409號行政令的簽署，以及這份框架的快速落地，反映出美國政府對AI安全的高度警覺。過去幾年，生成式AI的爆發式成長曾引發多次安全爭議，包括模型被用於製作深偽影像、自動化網路釣魚，甚至協助編寫惡意程式碼。2025年發生的一系列事件，例如某閉源模型被發現能繞過安全限制，輸出有害內容，促使白宮加速推動監管機制。 白宮在8月4日的會議中，也向與會企業說明未來的監管布局。除了現有的自願送測框架，政府還計劃在2026年底前建立一套常態化的AI安全通報制度，要求開發者主動報告模型在部署後出現的安全異常。同時，白宮也鼓勵業界成立獨立的第三方安全審計機構，以補足政府評測人力與技術的不足。 對於Meta、SpaceX等開放權重陣營的業者來說，這項新規雖然暫時免於送測，但並不代表完全不受監管。白宮特別指出，若開放權重模型被廣泛用於危險用途，或出現大規模濫用案例，政府仍有可能將其納入評測範圍。此外，開放權重模型的開發者也被要求提供更詳細的模型使用說明與風險評估報告，以利社群與學術界進行監督。 業界對此反應不一。OpenAI與Anthropic長期以來支持某種形式的監管，並曾公開呼籲建立安全測試標準，因此對新框架表示歡迎。谷歌則持審慎樂觀態度，強調在送測過程中應確保模型智慧財產權不受侵害。Meta則批評政府過度側重閉源模型，認為開放權重模型同樣需要明確的監管指引，否則可能導致開發者轉向閉源，反而削弱透明度。 整體而言，這項AI安全新框架象徵美國政府正式從「觀望」轉向「行動」，在白宮、國會與業界之間畫出一條暫時性的監管界線。未來幾個月，隨著第一批模型送測結果出爐，以及國會可能推動的AI安全法案，這條界線是否會進一步收緊，將成為全球AI產業關注的焦點。