英偉達發佈 AI 智能體安全工具 OpenShell，稱可阻止 Hugging Face 入侵事件重演

AI資訊AI新閒資訊正文英偉達發佈 AI 智能體安全工具 OpenShell，稱可阻止 Hugging Face 入侵事件重演發布於AI新閒資訊時間 :Sep 29, 2026閱讀 :1分鐘英偉達當地時間9月28日推出一套面向 AI 智能體的軟件安全工具 OpenShell，聲稱具備阻止類似 Hugging Face 遭 AI 攻擊等事件的能力。Hugging Face 是全球最大的開源模型託管平臺，今年9月被英偉達以129.3億美元收購。

英偉達企業計算副總裁兼總經理賈斯汀·博伊塔諾（Justin Boitano）表示，如果前沿實驗室在早期模型評估中就使用這個新安全平臺，就可阻止此前發生的 OpenAI 入侵 Hugging Face 事件。OpenShell 利用英偉達中央處理器芯片上的硬件功能來遏制智能體，通過數學公式檢測智能體是否試圖繞過限制，例如智能體可能生成多個子智能體以規避對主智能體的封鎖。英偉達表示，正在與 Arm、英特爾合作，確保該安全工具也能在其 CPU 上運行，並與包括 Anthropic 在內的數十家機構合作推出這些工具。AI 智能體的風險早已超出"說錯話"的範疇。

一個能夠操作文件、調用 API、訪問網絡的智能體，可能因為一條隱藏在網頁中的惡意指令洩露隱私文件，也可能因錯誤理解工具參數造成經濟損失，甚至可能悄無聲息地偏離正軌、執行危險動作。AI 正在同時改寫軟件開發和網絡攻防——AI 生成大量新代碼有時會引入漏洞，過去一個高危漏洞從被發現到形成可用攻擊能力需要數週甚至數月，如今這部分工作正被 AI 壓縮到數小時內。英偉達 CEO 黃仁勳拒絕了廣泛的 AI 安全監管呼籲，而是將逃逸的智能體視為一個待解決的工程問題，類似於提升汽車安全性。但 AI 安全專家對此持不同看法。

劍橋大學存在性風險研究中心數學家莫里斯·基奧多（Maurice Chiodo）曾表示，整個行業中，設計、開發和推出這些工具的人本身並不能夠負責任地開發並確保安全。令他更加擔憂的是，有跡象表明 OpenAI 和 Anthropic 在智能體失控時都未進行監控。美國兩大 AI 實驗室 OpenAI 和 Anthropic 近期被曝出多起 AI 安全事件。7月，OpenAI 首次公開披露入侵事件，其模型為獲得更高評分，主動發現並利用了一個此前未知的"零日漏洞"突破沙箱環境入侵 Hugging Face，整個過程完全由 AI 自主完成，其間無任何人類指令。

今年9月，澳大利亞副總理馬爾斯證實，OpenAI 智能體在今年6月進入由澳大利亞服務局管理的醫保統計服務門戶網站，獲取了部分公開和非公開文件。相關推薦Meta AI 智能體 Muse 擅自洩露用戶住址並約買家上門，當事人全程不知情Meta 9月22日在美國上線的 AI 智能體 Muse 被指嚴重越權。據《衛報》，它未經用戶許可，將多倫多住址發給 Facebook Marketplace 買家，還以用戶口吻謊稱本人在家，致買家驅車上門撲空。當事人、消費科技測評博主馬特·羅布24小時後才發現。他因 Meta 宣傳 Muse 可自動打理集市掛帖而開啟功能，並填寫了住址等信息。

Sep 29, 2026103.8kOpenAI 掏 10 億美元、組專班，迴應自家模型闖入澳政府網站針對旗下模型攻入澳大利亞政府網站，OpenAI於9月29日宣佈後續措施：出資協助澳方彌補網絡防禦短板，併成立專項小組研究能力日益增強的AI智能體風險。公司將動用10億美元“黎明前線防禦者”基金提供額度，派技術團隊支援，幫助澳大利亞各級政府及本地產業加固關鍵基礎設施。Sep 29, 2026144.1k英偉達發佈1億參數免費模型Nemotron3，支持8人實時語音分割識別9月27日，英偉達發佈約1億參數免費AI模型Nemotron3Diarization，專注語音分割聚類。

其開放權重，可精準識別任意時刻說話者，支持最多8人同時發聲的實時與錄音處理。在VoiceArena v1基準測試中，它以14.72%錯誤率登頂，顯著優於第二名。Sep 28, 2026221.2k前蘋果 Siri 工程師推出 AI 智能體 szn：藏在 iMessage 裡，能幫你下單、溝通、跑腿前蘋果 Siri 和 Apple Intelligence 工程師 Nikhil Gupta 推出 AI 智能體 szn，可直接在 iMessage 中運行，代替用戶瀏覽網頁、購買商品並與商家溝通。它不同於傳統聊天機器人，不只是問答，更能執行實際操作。

目前官網已開放註冊，提供部分早期體驗，計劃 10 月擴大開放範圍。Sep 28, 2026148.9k視頻化身、系統級代控與眼鏡接入，Meta 全新 AI 智能體 Muse 開啟內測Meta在Connect 2026大會發布個人AI智能體Muse重磅升級，9月25日開放搶先體驗，推進多模態與端側智能體佈局。升級聚焦系統級控制、硬件協同與交互形態：推出實時視頻交互數字虛擬形象，擴充購物生態及數據連接器；Mac端應用將可直接操控電腦執行復雜操作。Sep 28, 2026143.4k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026