英偉達、思科等 120 家組織提議建立 AI 智能體事故追蹤機制
作者：汪淼 責編：汪淼 評論： 8 月 12 日消息，據外媒 Axios 今日報道，包括英偉達、思科和 CrowdStrike 在內的 120 多個組織組成的聯盟正在提議為 AI 智能體制定一個新的事件報告框架，該框架將要求參與公司披露某些智能體事故，並保存詳細的事故記錄。隨著 AI 智能體在計算機系統中獲得越來越大的自主權，業界缺乏報告安全故障和從中吸取教訓的標準方法。
The Open Secure AI Alliance（開放安全人工智能聯盟）正在制定其所謂的“Shared AI Findings Exchange”（共享人工智能發現交流，SAFE）指南，這是一個關於如何報告涉及 AI 智能體網絡安全事件的擬議框架。該草案呼籲模型部署者、AI 開發者、雲和工具提供商、獨立研究人員、關鍵基礎設施運營商和其他團體參與，政府機構也將受邀作為“非控制性觀察員”參與。SAFE 成員同意報告以下事件：AI 系統未經授權訪問或利用第三方系統、洩露機密信息，或在操作員懷疑活動未經授權後繼續探測生產目標。
成員還會報告某些險些發生的事件，並保存事件證據，包括提示、智能體追蹤、工具調用、身份、權限和憑證。注意到，根據擬議的時間表，成員應在事故發生後儘快通知受影響的組織，在四個工作日內向 SAFE 提交初步保密報告，在適當情況下於 30 天內發佈初步事實報告，並在 90 天內提供補救措施更新。SAFE 會分析事件，找出重複出現的故障，並提出共享的安全控制建議。英偉達企業計算副總裁兼總經理 Justin Boitano 在黑帽子大會上告訴 Axios，該計劃以 NASA 的航空安全報告系統為藍本，該系統可以使用飛機飛行記錄器捕獲的數據來調查事故。
該聯盟認為，網絡安全領域現有的共享威脅情報文化將使各公司無論如何都願意參與其中。英偉達副首席信息安全官兼副總裁 Julien Soriano 表示：“幾乎沒有遇到任何阻力。我們看到人們都願意參與進來，他們渴望分享。”開放安全人工智能聯盟正在通過由 Linux 基金會主辦的徵求意見流程，就該提案徵求社區的反饋意見。投訴水文 我要糾錯 下載APP，簽到賺金幣兌豪禮 相關文章關鍵詞：AI 智能體，AI 事故，英偉達，思科英偉達推出 30B 開源 AI 模型 Nemotron 3.
5 Lightning消息稱英偉達開發萬億參數開源 AI 模型 Nemotron 4，目標挑戰全球頂級“建議零售價”如今已成空談：英偉達 RTX 50 系顯卡本月漲幅最高達 39%英偉達 CEO 黃仁勳談 5000 億美元融資計劃：AI 芯片已是“投資級資產”為應對 HBM 短缺，消息稱英偉達 Rubin Ultra 測試 192GB/256GB HBM4 版本中科慧思 L1、D1、M1 三款靈巧手亮相，能彈吉他
Related
相關文章
消息稱 NVIDIA 考慮向 Perplexity AI 投資“數十億美元”
作者：溯波（實習） 責編：溯波 評論： 8 月 24 日消息，外媒 The Information 稍早前報道稱，NVIDIA（英偉達）考慮在 Perplexity AI 的最新融資輪中向這家人工智能初創企業投資“數十億美元”。雙方正就該交易展開磋商，還可能達成技術授權協議。
Rabbit做了個“所有Agents的Agent” ，體驗後我覺得Agent早就該長它這樣
Rabbit推出了一個被稱為「所有Agents的Agent」的新產品，實際體驗後讓人覺得Agent早就該長這樣。文章認為Agent普及的關鍵並非增加更多能力，而是讓用戶少理解十個概念，降低使用門檻。
Guidelight評估五大AI實驗室，OpenAI遏制能力排名第一
該評估覆蓋Anthropic、Google、OpenAI、Meta和xAI，僅依據公開信息考察其是否建立監控、異常行為處置、第三方審計及失控模型關閉等機制。在滿分5分的評估中，OpenAI以3分排名最高，Anthropic和Meta得分最低。
τ_0-VLA長程操控
τ₀-VLA是一種層次化機器人基礎模型，透過世界模型引導的測試時計算來改善長程操控任務。高層策略在決策不確定時會額外分配計算資源，搜尋替代子任務並預測其視覺結果，而低層策略則在40,115小時的異質真實世界數據上訓練。在包含13到25個步驟的真實長程任務中，封閉迴路成功率從27.5%提升至45.0%。