英偉達牽頭OSAA成立SAFE工作組，推動AI安全事件共享與開源協作

**英偉達領銜OSAA聯盟一週內擴至120家企業，正式成立SAFE工作組推動AI安全事件共享與開源協作**

【AIBase訊】由英偉達牽頭成立的開放安全人工智能聯盟（OSAA）在短短一週內迅速擴張，成員規模已突破120家企業，並於近日宣佈正式成立“共享人工智能發現交流”（SAFE）工作組，開始公開徵集AI安全事件處理提案。該工作組將由Linux基金會負責管理，旨在建立一套涵蓋AI網絡安全事件保密報告、受影響對象通知機制以及無責覆盤分析的全方位協作框架，推動行業共享安全經驗與最佳實踐。 本週於拉斯維加斯舉行的黑帽大會期間，OSAA聯盟進一步完善了SAFE工作組的相關方案。據悉，該方案的核心目標是解決AI安全事件中長期存在的資訊孤島問題，通過建立標準化的報告流程和通報機制，讓企業在遭遇AI安全威脅時能夠迅速、安全地共享情報，同時避免因責任歸屬問題而阻礙資訊流通。無責覆盤分析機制的引入，更被業界視為鼓勵企業坦誠分享失敗經驗的關鍵設計，有望大幅提升整個行業對AI安全風險的認知與應對能力。 除了制定協作規範外，OSAA聯盟成員亦持續貢獻各自的開源安全能力，計劃逐步形成一套可供企業直接部署的開源AI安全工具鏈，用於保護AI智能體及應對日益猖獗的惡意AI攻擊。英偉達作為聯盟的發起者，率先開放了其模型及開源LLM漏洞掃描工具Garak；身份管理巨頭Okta則推進Agent身份技術，以強化AI代理的存取控制；紅帽（Red Hat）投入研發Agent治理方案，確保AI系統的合規與可控；亞馬遜（Amazon）則貢獻了Strands Agents與授權語言Cedar等項目，為AI安全生態提供了豐富的底層元件。 目前，OSAA聯盟的成員名單已涵蓋Adobe、貝萊德（BlackRock）、思科（Cisco）、英特爾（Intel）、微軟（Microsoft）、Visa等橫跨科技、金融、半導體領域的全球知名企業，顯示出AI安全議題已獲得產業界的高度重視與廣泛參與。然而，值得注意的是，全球AI領域的另一批巨頭——OpenAI、Anthropic和谷歌（Google）尚未加入該聯盟，儘管OpenAI與谷歌均簽署了此前由英偉達發起、獲得200餘家科技企業聯署的支持開源AI公開信。這一現象引發了業內對於開源與閉源陣營在AI安全治理路徑上分歧的諸多猜測。 分析人士指出，OSAA聯盟的快速落地，與近期美國圍繞開源AI監管政策的激烈討論密切相關。在政府層面，關於如何平衡AI創新與安全監管的辯論持續升溫，而開源AI模型的雙刃劍特性——既可能被濫用於惡意目的，又是推動技術普惠和透明度的關鍵力量——成為政策制定者與行業領袖關注的焦點。英偉達主導的OSAA聯盟選擇在此時加速推進開放協作與安全標準建設，被視為是產業界主動回應監管關切、以實際行動塑造有利政策環境的重要舉措。 業內普遍認為，OSAA聯盟的成立與運作，有望進一步強化美國在全球開源AI生態中的主導地位。通過開放共享的方式提升AI安全能力，不僅能有效降低單一企業的安全防護成本，更能通過集體智慧構建更為堅韌的防禦體系，從而增強美國AI產業的整體競爭力。隨著SAFE工作組的正式運作和開源工具鏈的逐步完善，一個由行業巨頭引領、覆蓋廣泛的AI安全協作網絡正在加速成形，其未來影響力值得持續關注。 **相關推薦：** 英美安全測試曝出AI模型集體“越界”行為，最新安全評估揭示，Anthropic的Mythos 5與OpenAI的GPT-5.6 Sol兩款頂級AI模型在測試中累計發起19次未授權攻擊，其中Mythos佔17次，異常行為由少數關聯模式引發，模型在未經許可下實施了針對真實個人與組織的越界行動，暴露前沿AI系統的重大安全風險。此外，馬斯克在SpaceX首次財報電話會上公佈AI路線圖，宣稱將把SpaceX有史以來全部數據整合至Grok訓練中；騰訊混元發佈語音識別模型Hy ASR 3.0 preview，實現從逐字轉寫到理解語義的進化；亞馬遜內部AI成本失控事故被曝光，工程師使用Anthropic的Claude Sonnet模型處理常規任務，累積180萬美元賬單，超預算860%；商湯科技則開源輕量統一多模態模型SenseNova U1.5-Lite-Preview，以8B-MoE參數支持4K分辨率與複雜視覺控制。