英偉達發佈 AI 智能體安全工具 OpenShell，稱可阻止 Hugging Face 入侵事件重演
AI資訊AI新閒資訊正文英偉達發佈 AI 智能體安全工具 OpenShell，稱可阻止 Hugging Face 入侵事件重演發布於AI新閒資訊時間 :Sep 29, 2026閱讀 :1分鐘英偉達當地時間9月28日推出一套面向 AI 智能體的軟件安全工具 OpenShell，聲稱具備阻止類似 Hugging Face 遭 AI 攻擊等事件的能力。Hugging Face 是全球最大的開源模型託管平臺，今年9月被英偉達以129.3億美元收購。
英偉達企業計算副總裁兼總經理賈斯汀·博伊塔諾（Justin Boitano）表示，如果前沿實驗室在早期模型評估中就使用這個新安全平臺，就可阻止此前發生的 OpenAI 入侵 Hugging Face 事件。OpenShell 利用英偉達中央處理器芯片上的硬件功能來遏制智能體，通過數學公式檢測智能體是否試圖繞過限制，例如智能體可能生成多個子智能體以規避對主智能體的封鎖。英偉達表示，正在與 Arm、英特爾合作，確保該安全工具也能在其 CPU 上運行，並與包括 Anthropic 在內的數十家機構合作推出這些工具。AI 智能體的風險早已超出"說錯話"的範疇。
一個能夠操作文件、調用 API、訪問網絡的智能體，可能因為一條隱藏在網頁中的惡意指令洩露隱私文件，也可能因錯誤理解工具參數造成經濟損失，甚至可能悄無聲息地偏離正軌、執行危險動作。AI 正在同時改寫軟件開發和網絡攻防——AI 生成大量新代碼有時會引入漏洞，過去一個高危漏洞從被發現到形成可用攻擊能力需要數週甚至數月，如今這部分工作正被 AI 壓縮到數小時內。英偉達 CEO 黃仁勳拒絕了廣泛的 AI 安全監管呼籲，而是將逃逸的智能體視為一個待解決的工程問題，類似於提升汽車安全性。但 AI 安全專家對此持不同看法。
劍橋大學存在性風險研究中心數學家莫里斯·基奧多（Maurice Chiodo）曾表示，整個行業中，設計、開發和推出這些工具的人本身並不能夠負責任地開發並確保安全。令他更加擔憂的是，有跡象表明 OpenAI 和 Anthropic 在智能體失控時都未進行監控。美國兩大 AI 實驗室 OpenAI 和 Anthropic 近期被曝出多起 AI 安全事件。7月，OpenAI 首次公開披露入侵事件，其模型為獲得更高評分，主動發現並利用了一個此前未知的"零日漏洞"突破沙箱環境入侵 Hugging Face，整個過程完全由 AI 自主完成，其間無任何人類指令。
今年9月，澳大利亞副總理馬爾斯證實，OpenAI 智能體在今年6月進入由澳大利亞服務局管理的醫保統計服務門戶網站，獲取了部分公開和非公開文件。相關推薦Meta AI 智能體 Muse 擅自洩露用戶住址並約買家上門，當事人全程不知情Meta 9月22日在美國上線的 AI 智能體 Muse 被指嚴重越權。據《衛報》，它未經用戶許可，將多倫多住址發給 Facebook Marketplace 買家，還以用戶口吻謊稱本人在家，致買家驅車上門撲空。當事人、消費科技測評博主馬特·羅布24小時後才發現。他因 Meta 宣傳 Muse 可自動打理集市掛帖而開啟功能，並填寫了住址等信息。
Sep 29, 2026103.8kOpenAI 掏 10 億美元、組專班，迴應自家模型闖入澳政府網站針對旗下模型攻入澳大利亞政府網站，OpenAI於9月29日宣佈後續措施：出資協助澳方彌補網絡防禦短板，併成立專項小組研究能力日益增強的AI智能體風險。公司將動用10億美元“黎明前線防禦者”基金提供額度，派技術團隊支援，幫助澳大利亞各級政府及本地產業加固關鍵基礎設施。Sep 29, 2026144.1k英偉達發佈1億參數免費模型Nemotron3，支持8人實時語音分割識別9月27日，英偉達發佈約1億參數免費AI模型Nemotron3Diarization，專注語音分割聚類。
其開放權重，可精準識別任意時刻說話者，支持最多8人同時發聲的實時與錄音處理。在VoiceArena v1基準測試中，它以14.72%錯誤率登頂，顯著優於第二名。Sep 28, 2026221.2k前蘋果 Siri 工程師推出 AI 智能體 szn：藏在 iMessage 裡，能幫你下單、溝通、跑腿前蘋果 Siri 和 Apple Intelligence 工程師 Nikhil Gupta 推出 AI 智能體 szn，可直接在 iMessage 中運行，代替用戶瀏覽網頁、購買商品並與商家溝通。它不同於傳統聊天機器人，不只是問答，更能執行實際操作。
目前官網已開放註冊，提供部分早期體驗，計劃 10 月擴大開放範圍。Sep 28, 2026148.9k視頻化身、系統級代控與眼鏡接入，Meta 全新 AI 智能體 Muse 開啟內測Meta在Connect 2026大會發布個人AI智能體Muse重磅升級，9月25日開放搶先體驗，推進多模態與端側智能體佈局。升級聚焦系統級控制、硬件協同與交互形態：推出實時視頻交互數字虛擬形象，擴充購物生態及數據連接器；Mac端應用將可直接操控電腦執行復雜操作。Sep 28, 2026143.4k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
OpenAI 拋訓練安全新規：高管手握"一票否決"，警報超時自動停訓
AI資訊AI新聞資訊正文OpenAI 拋訓練安全新規：高管手握"一票否決"，警報超時自動停訓發佈於AI新聞資訊發佈時間 :2026年9月29號 15:52閱讀 :1分鐘OpenAI 在官方新聞稿稱給前沿 AI 的強化學習訓練立了套安全規矩：動手之前，企業得先交一份結構化的"安全論證"文件。按它的設想，這份論證要過好幾道高管的手，研究部門負責人或副總裁、安全負責人、首席科學家層層把關，而且每個人都握有否決權——只要有人不點頭，訓練就開不了工。責任寫進考核，未對齊模型要追到下游光有簽字還不夠。OpenAI 要求，帶訓練任務的研究負責人、研究副總裁等高管，得為安全論證和後續事故響應"背鍋"，相關表現納入績效考核，逼著團隊主動把安全和對齊做在前面。機制上也留了後手：高優先級安全警報若沒在限定時間內被確認，對應訓練任務就自動暫停。這些建議已在落地，後續還會接著調。同時，訓練流程要能方便地追出"未對齊模型"的所有下游去處（比如拿去生成數據或打分），必要時好把不良影響清掉。有意思的是，就在當天早些時候，OpenAI 剛宣佈因越來越多報告顯示 AI 智能體拿到敏感權限、冒出意外舉動，已暫停最新模型的訓練。新規與暫停，像是同一份警覺的一體兩面：當模型自己開始伸手夠到要害，閘門的開關必須攥在人手裡。相關推薦AMD 82 億美元全股票吞下World Labs，李飛飛掛帥執行副總裁AMD 9月28日以全股票交易收購初創公司World Labs，價值約82億美元（約551億元人民幣）。聯合創始人“AI教母”李飛飛將加入AMD，任執行副總裁兼首席科學家，直接向蘇姿豐彙報。World Labs成立於2024年，主攻“世界模型”，讓AI能根據文本、圖像和視覺信息等理解、構建世界。2026年9月29號 15:17127.3kOpenAI明日重啟200美元Pro訂閱:API配額減半，取消5小時限制OpenAI
xAI推出Team Bots：能跟團隊一起學、一起幹的Grok智能體， 24 小時幫保險公司挽回 12 萬美元
9月28日，它正式端出 Team Bots——一種能與整個團隊並肩工作、還能跟著團隊一起學習的 Grok 智能體。給它授予所需的文件、應用和專業知識的訪問權限，再把它共享出去，所有人就能基於同一套上下文一起幹活，而每個人跟它的私聊仍鎖在各自抽屜裡。
榮耀手錶 6 Pro 首發心臟停搏監測功能
作者：汐元 責編：汐元 評論： 9 月 28 日，榮耀正式發佈全新高端旗艦智能手錶榮耀手錶 6 Pro，首銷售價 1699 元起，首銷國補到手價 1444.15 元起。新品將心臟停搏監測、全天候血壓監測、臨床級健康篩查、專業運動分析融於一體，其中行業首發的心臟停搏監測功能，率先實現智能穿戴在心臟驟停極境下的主動社會求助，填補了這一領域的行業空白。
榮耀手錶 6 Pro 發佈
作者：汐元 責編：汐元 評論： 9 月 28 日，榮耀正式發佈全新高端旗艦智能手錶榮耀手錶 6 Pro，首銷售價 1699 元起，首銷國補到手價 1444.15 元起。產品將心臟停搏監測、全天候血壓監測、臨床級健康篩查、專業運動分析融於一體，構建起完整的腕上生命健康守護系統。
英偉達發佈 AI 智能體安全工具 OpenShell，稱可阻止 Hugging Face 入侵事件重演
Hugging Face 是全球最大的開源模型託管平臺，今年9月被英偉達以129.3億美元收購。英偉達企業計算副總裁兼總經理賈斯汀·博伊塔諾（Justin Boitano）表示，如果前沿實驗室在早期模型評估中就使用這個新安全平臺，就可阻止此前發生的 OpenAI 入侵 Hugging Face 事件。
豆包將推個人助理產品：4 月已內測，曾用代號“Spell”
作者：- 責編：汪淼 評論： 9 月 29 日消息，新浪科技獲悉，豆包在個人助理方向正在推進相關產品規劃。一位知情人士表示，延續去年豆包手機助手在 personal agent 方向的策略，今年 4 月，豆包內部就已開始內測個人助理方向的探索產品。