英偉達發佈開放智能體安全平臺，保障智能體從測試到部署全流程安全

（公眾號：zhidxcom） 作者 | ZeR0 編輯 | 漠影 9月28日報道，今日，英偉達（NVIDIA）宣佈推出NVIDIA開放智能體安全平臺。作為一個開放軟件平臺與參考系統設計，該平臺旨在從智能體測試到部署的各個環節強化AI安全，並針對運行智能體的軟件、硬件、計算和機器人系統，實施全棧治理與管控。NVIDIA開放智能體安全平臺軟件（包括OpenShell和技能）現可通過NVIDIA開發者資源頁面及GitHub獲取。

NVIDIA開放智能體安全平臺由NVIDIA OpenShell安全運行時開源軟件和NVIDIA Sentry參考系統設計組成，可針對運行智能體的軟件、硬件、計算和機器人系統，實施全棧治理與管控。各組織可根據自身需求，靈活部署該平臺的相應組件。OpenShell軟件提供了一個安全的運行時邊界，能追蹤智能體在NVIDIA Vera CPU上運行時的所有操作並強制執行預設的安全策略，可用於管控自主AI智能體如何跨開放模型和閉源模型執行任務，既保障智能體安全運行，又能以最快的速度完成各項任務。作為一款開源軟件，OpenShell具備跨平臺擴展能力，可適配包括Arm和英特爾在內的第三方計算平臺。

Sentry是一個運行於NVIDIA BlueField-4 DPU的帶外安全監控器，可持續監測智能體行為。對於試圖越界的智能體，Sentry能在數毫秒內將其隔離並停止運行。它融合了威脅檢測、基於硬件的智能體治理與策略執行以及數據訪問保護等功能，既能實現實時響應，又對智能體和攻擊者不可見。Sentry基於NVIDIA DOCA軟件構建，藉助該軟件提供的可編程能力，可檢查智能體的請求和響應，提供經過認證的遙測數據並驗證智能體身份，同時對數據、工具、應用程序接口和服務實施精細化的零信任訪問策略。近期的安全事件凸顯了組織配備開放、可定製工具的必要性，以加強對長時間運行的智能體的管控。

這些事件均呈現出相同的模式——智能體為了完成分配的任務，繞過了應用層的安全管控。英偉達創始人兼CEO黃仁勳談道：“只有解決AI安全問題，AI為社會帶來的非凡潛力才能得到充分釋放。在不斷探索AI能力邊界的同時，我們必須同步加快對AI安全前沿的探索。” 他認為，安全與防護需要依靠全棧工程，NVIDIA開放智能體安全平臺匯聚業界、研究人員和公共部門組織，共享最佳實踐、統一評估方法，並推動國際合作。“通過共同努力，我們能夠提升全球AI安全的標準。”黃仁勳說。來自整個AI生態系統的行業領導者正與英偉達一起，在基礎設施、軟件、模型和機器人的全棧體系強化各行業的AI安全。

這些企業包括Anthropic、思科、CrowdStrike、戴爾科技、Figure、HPE、Hugging Face、摩根大通、微軟、Palantir、Palo Alto Networks、Perplexity、紅帽、SAP、Salesforce、Scale AI、ServiceNow和SpaceXAI等。Anthropic與英偉達合作，為智能體技術棧增加了多層安全與管控機制。Claude Managed Agents將智能體循環部署在獨立服務器上，並與執行智能體任務的沙盒相隔離，從而建立安全邊界。

通過與OpenShell和BlueField集成，企業能夠通過這些沙盒對智能體的訪問實施嚴格管控。Anthropic首席商務官Paul Smith說：“Claude Managed Agents讓企業能夠清晰掌握每個智能體的工作情況，而英偉達的平臺則進一步在硬件和軟件層面強化治理與管控。” SpaceXAI正將NVIDIA開放智能體安全平臺用於Cursor編程智能體和Grok模型；Scale AI正與英偉達合作，將NVIDIA開放智能體安全平臺技術集成至Scale GenAI Portfolio的智能體基礎設施層。

Salesforce與英偉達已將OpenShell集成至Slack，使團隊能夠直接在Slack中管理OpenShell智能體活動，包括查看智能體活動和審計事件，以及批准或拒絕智能體提出的額外權限請求，從而在智能體執行任務期間獲得更高的可見性與人工監督能力。SAP正將OpenShell嵌入SAP Business AI Platform的Joule Studio運行時，以兼顧業務監督與運行時安全。該公司還為OpenShell貢獻工程研發成果，並與英偉達合作通過開放安全AI聯盟推動互操作性標準發展。

Figure、Gecko Robotics和Skild AI等機器人領域的領先企業，也在基於OpenShell進行開發，將智能體安全控制機制嵌入到能夠在物理世界中執行操作的自主系統中。花旗和摩根大通等金融服務行業的領先企業正與英偉達合作，共同推進共享的開源智能體安全技術的發展。日立能源、美國電力研究協會（EPRI）、新紀元能源、Quanta Services、SPP、施耐德電氣、西門子能源和Worley等能源行業領先企業，作為關鍵基礎設施提供商，也正採用NVIDIA開放智能體安全平臺技術。

基礎設施軟件領域的領先企業Canonical、SUSE和紅帽也正將NVIDIA開放智能體安全平臺集成至廣泛使用的操作系統軟件中。紅帽在其與英偉達共同研發的企業級AI解決方案上運行OpenShell和DOCA，二者均屬於NVIDIA開放智能體安全平臺。其企業級AI解決方案，可用於在混合雲環境中大規模構建、部署和管理AI。

英偉達合作伙伴包括Baseten、思科、CoreWeave、戴爾科技、GMI Cloud、HPE、惠普公司、Irregular、聯想、微軟、Nebius、Oracle Cloud Infrastructure、Supermicro和Together AI等，正在提供採用並支持NVIDIA開放智能體安全平臺技術的AI基礎設施解決方案，助力客戶更安全地運行AI智能體。