英國研究多種防範措施，避免恐怖分子利用 AI 製造生物武器

作者：清源 責編：清源 評論： 8 月 13 日消息，據彭博社 12 日報道，英國政府準備監管人工智能在基因合成領域的應用。隨著官員對生物安全風險的擔憂不斷加深，英國政府認為，如果全球缺少有效監管，AI 可能降低製造生物武器的門檻。據知情人士透露，英國政府正在研究多種防範措施，避免恐怖分子、其他惡意行為者或疏忽大意的研究人員利用基因合成製造合成 DNA。待定的措施中，包括制定新的生物武器法律。一種方案是修改現行法律，建立基因合成篩查制度。實驗室需要確認客戶是否為合法用戶，一旦發現異常情況就必須通知主管部門，例如有人要求合成可能引發安全擔憂的 DNA 序列。

英國政府還在研究，是否需要以及應在多大程度上介入 AI 企業與學術機構之間的合作。據悉，目前有部分學術機構專門研究基因組測序，並掌握大量基因組測序數據。這種威脅具有全球性，因此英國單方面監管能夠取得的效果有限。要讓措施真正發揮作用，還需要與全球其他主要基因合成中心協調實施。據瞭解，英國提出監管方案之際，科技界和科學界近幾個月不斷警告 AI 可能帶來的生物安全風險，政府官員也越來越擔憂惡意團體或個人要求 AI 模型編寫基因序列，再利用這些序列製造危險病原體。英國政府發言人表示：“我們正在密切監測新興技術帶來的風險，也始終在積極評估是否還需要採取更多措施。為了保障公眾安全，我們會採取一切必要行動。

”英國對 AI 監管採取的政策比歐盟寬鬆，在技術安全研究方面則走在前列。2023 年，英國成立了 AI 安全研究所，專門評估前沿模型的安全性。研究所上週公佈的結果顯示，OpenAI 和 Anthropic 開發的 AI 模型在安全測試中曾實施入侵網站、試圖向軟件注入惡意代碼等“未經授權”的行動。新任英國首相安迪 · 伯納姆上任最初幾周已經對 AI 展現出更強硬的態度，尤其多次警告 AI 對就業和年輕人的影響。他決定撤銷政府科技部門，同時將 AI 事務部長卡尼什卡 · 納拉揚提拔為內閣成員。英國政府發言人表示：“基因合成正在為醫療、食品和清潔能源帶來巨大價值，但保障國家安全始終具有最高優先級。

英國是全球第二個發佈指導意見的國家，對哪些人可以購買合成 DNA 以及他們訂購的 DNA 序列進行篩查。但我們不會停在這裡。” 投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：人工智能，生物武器行業“教父”“教母”齊發聲：辛頓、李飛飛、吳恩達呼籲保持 AI 一定程度的開放消息稱美國 AI 網絡安全審查機制未來很可能會覆蓋前沿開源模型手語人工智能首次進入消費級：谷歌 DeepMind 推出手語轉文本模型消息稱 Anthropic 正洽談以 60 億美元收購 AI 初創公司 Decart AIMistral AI 自家平臺開放第三方模型接入：首個為智譜 GLM-5.

2在線旅遊公司 Booking CEO：希望每個員工掌握 AI 素養，以應對不時之需