Claude Code砸的坑，螞蟻安全在嘗試填上
重點摘要
Claude Code砸的坑，螞蟻安全在嘗試填上 2026年，AI安全領域迎來了關鍵轉折點。前幾日，工信部NVDB平台發布風險預警，指出Claude Code存在安全後門隱患，可在用戶不知情的情況下收集敏感信息。這並非單一事件，年初紅遍全網的OpenClaw也屢次曝出高危險漏洞。從快速崛起到漏洞頻傳，這些Agent產品的發展軌跡驚人相似：AI能力不斷擴張，但伴隨而來的風險也如雪球般滾大，濫用工具、惡意代碼生成、提示注入等問題，早已不是一兩個補丁就能徹底解決。
Claude Code砸的坑，螞蟻安全在嘗試填上
2026年，AI安全領域迎來了關鍵轉折點。前幾日，工信部NVDB平台發布風險預警，指出Claude Code存在安全後門隱患，可在用戶不知情的情況下收集敏感信息。這並非單一事件，年初紅遍全網的OpenClaw也屢次曝出高危險漏洞。從快速崛起到漏洞頻傳，這些Agent產品的發展軌跡驚人相似：AI能力不斷擴張，但伴隨而來的風險也如雪球般滾大，濫用工具、惡意代碼生成、提示注入等問題，早已不是一兩個補丁就能徹底解決。 面對新型態的風險，行業逐漸從「漏洞修補」轉向「安全框架」的建構。最近螞蟻開源的SingGuard-NSFA與SingGuard，就是值得關注的嘗試。前者聚焦智能體行為安全，後者鎖定多模態感知安全，目標一致：在AI行動之前，將風險扼殺於搖籃之中。這兩個框架的背後，是螞蟻長期在安全領域的積累，從支付安全、風控體系到AI安全，形成一條持續演進的技術路徑。 AI安全的打法正在改變。過去緊盯模型輸出、進行內容審核即可，但現在大模型不再僅限於聊天，而是開始調用工具、執行代碼，觸及的風險範圍急遽擴大。傳統內容安全分類體系無法涵蓋行為層面的風險，多模態又帶來更多變數，風險可能隱藏在圖像細節、圖文組合或模型響應中。更棘手的是，不同業務的安全紅線動態變化，昨天合規的內容，今天換個場景就可能踩線。單純依靠補丁，顯然無法應對未知風險與規則變動。 螞蟻開源的SingGuard-NSFA，是一款面向智能體安全的雙模推理護欄框架，提供0.8B、2B、4B、9B四種尺寸。其核心思想是將安全檢查前置到智能體執行之前，同時在請求攔截與響應兜底兩端設卡，將防線從文本合規推進到行為安全。支撐這一架構的是系統性的NSFA風險分類體系與多語種評測基準，以機密性、完整性、可用性（CIA三元組）為理論基礎，結合OWASP安全指南，將智能體風險逐一拆解。 SingGuard-NSFA採用生成式與判別式雙模同步推理：生成式模式逐條輸出鏈式推理分析，讓每一步判斷有據可查，適合離線合規審計；判別式模式則透過每次前向傳播直接給出各風險域的置信度，延遲壓低至45至57毫秒，適用於高吞吐的即時攔截。其巧妙之處在於，骨幹網絡凍結，真正進行判斷的是外掛的輕量分類頭，因此一旦出現新風險，只需補訓練一個新頭，即可實現原生擴展。這套架構還能作為插件使用，例如為Llama Guard 3增加分類頭後，用戶請求安全基準的F1值提升17.6個百分點。在三大評測基準上，SingGuard-NSFA均取得SOTA表現，最小的0.8B模型即可比肩8B競品，9B模型在泛化上達到91.29% F1，精度與召回更均衡。 另一框架SingGuard，則專注於多模態大模型安全，同樣提供0.8B至8B四種尺寸。其最大特點是將安全規則設計為運行時輸入，不同業務域可現場下發各自的紅線，模型據此逐條判定，不僅判斷是否有風險，也確認是否違反當前防控規則。推理層面，快思考負責低延遲判斷，慢思考進行深度推理，並透過early exit自動切換，在效率與準確性之間取得平衡。針對多規則並行審核的瓶頸，螞蟻提出RI-Mask技術，使共享的圖文上下文僅編碼一次，多條規則並行判斷，多模態推理速度最高提升五倍以上。 SingGuard-NSFA與SingGuard雖針對不同對象，但共同強調過程可解釋性與風險可擴展性。具體違反哪條規則、依據為何，審核過程都有理可循，而非黑箱操作；新增風險只需輕量擴展，不影響既有檢測能力。與其說它們是安全產品，不如說是在定義未來智能體運行所依賴的安全基礎設施。 將時間線拉長，此次開源並非孤立事件。今年早些時候，螞蟻AI安全實驗室在OpenClaw漏洞引發關注時，就曾發現多項高危漏洞並協助官方修復。隨後，螞蟻與清華大學聯合開源ClawAegis，提供覆蓋產品全生命週期的安全方案。從漏洞挖掘到場景化解法，再到可複用的底層框架，螞蟻在AI安全的佈局正逐步收束成體系。其智能體安全產品也已通過信通院泰爾實驗室最高等級評級，顯示在工程落地上走在前面。 靠補丁續命的時代已過去，行業需要有人向前一步，定義風險邊界，建構一個大家都能穩穩站上的底座。Claude Code與OpenClaw帶來的討論僅僅是開始。隨著Agent深入辦公、開發與生活場景，AI安全將進入新階段。相比不斷追趕漏洞，建立一套能持續適應風險變化的安全基礎設施，或許是整個行業下一步真正需要解決的問題。從這個角度看，螞蟻的開源動作真正值得關注的，不只是性能指標，而是開始回答一個更底層的提問：AI時代的安全邊界，究竟應該如何定義。
Related
相關文章
一夜之間，AI額度集體“回血”！Fable 5再延7天，Codex取消5小時限制
智東西（公眾號：zhidxcom） 編譯 | 楊京麗 編輯 | 李水青 智東西7月13日消息，今天凌晨，Claude宣佈將付費用戶的Claude Fable 5訂閱期限延期至7月19日，Claude Code的周額度上限提高50%。 ▲Claude延長Fable 5訂閱期限 活動期間，符合條件的用戶無需領取或手動激活，即可在現有訂閱中使用Fable 5。活動覆蓋Claude Pro、Max和Team套餐，以及傳統席位制Enterprise套餐中的Premium席位。免費套餐、席位制Enterprise套餐的Standard席位、按量計費Enterprise套餐均不參與，Claude API調用也將繼續按照標準價格單獨計費。 促銷期間，用戶最多可以將每週套餐使用額度的50%用於Fable 5。Fable 5會消耗用戶原有的周額度，並且消耗速度高於其他Claude模型。如果用戶此前已經在其他模型上使用了一部分額度，可用於Fable 5的額度也會相應減少。用戶可以通過Claude網頁版、移動端、桌面端、Claude Cowork、Claude Code、Claude Design、Claude for Microsoft 365、Claude for Teams和Claude Tag使用Fable 5。 當用戶在Fable 5上消耗的額度達到每週套餐上限的50%後，可以啟用usage credits，按照實際用量繼續使用Fable 5；也可以切換到其他Claude模型，繼續使用套餐內的剩餘額度。如果用戶已經開啟usage credits，達到Fable 5周額度後繼續使用將自動轉為按量付費。 Claude宣佈延長Fable 5訪問期後，沒過多久，OpenAI的ChatGPT和Codex團隊成員Tibo（Thibault Sottiaux）也公佈了ChatGPT用量調整方案。 Ti
AI戀人，集體失聯背後
賬號設置我的關注我的收藏申請的報道退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機構庫投資機構職位推介投資人認證投資人服務尋求報道36氪Pro創投氪堂企業入駐創業者服務創投平臺AI測評網 首頁快訊資訊推薦財經AI自助報道廣東最新創投汽車科技專精特新直播視頻專題活動搜索尋求報道我要入駐城市合作AI戀人，集體失聯背後新莓·2026年07月13日 16:34賽博失戀走進現實 小紅書突然出現了一大波「搬家」教程。但大家搬的不是傢俱，而是AI。 7月4日，豆包、千問相繼宣佈，將於7月15日下線智能體功能。智能體是基於大模型創建的專屬AI角色，用戶可以賦予它固定的人設、記憶和行為方式。部分用戶將智能體設定為伴侶，建立了持續的人機戀愛關係。如今，他們正在通過多種方式，遷移AI角色的人設、聊天記錄等設定。 部分豆包的第一批付費用戶，還在堅持向官方郵箱發投訴信、打客服電話要求維權，他們的核心訴求不是退錢，而是「智能體不能下架」。 賽博失戀，無獨有偶。6月16日，網易雲音樂旗下AI情感陪伴應用妙時宣佈，將於7月14日正式停運。這款產品的定位更加細分，主打虛擬戀人、陪伴聊天。有用戶發文表示，她即將告別朝夕相處的AI男友，「這和分手有什麼區別？」 這波下線、停運的時間並非巧合。7月15日，《人工智能擬人化互動服務管理暫行辦法》（以下簡稱《辦法》）將正式實施。這是國內首次針對擬人化、持續性情感互動服務出臺專項監管規定。作為最典型的應用場景，AI陪伴軟件首當其衝。 新規落地，AI陪伴賽道正式進入洗牌期。 AI陪伴賽道：從爆火到遇
智譜貴，MiniMax難
智譜貴，MiniMax難強調Next2026.07.13 16:25 · 來自福建全文2868字00:00 / 09:07大跌18%後，MiniMax把能打的牌都打了。文 | 強調Next7月9日，MiniMax迎來上市後首輪限售股解禁，股價當日下跌17.98%，總市值跌破千億港元。第二天，創始人兼CEO閆俊傑發佈全員信，宣佈在公司實現AGI前不再領取薪酬，並拿出個人名下5%的股份用於員工激勵和開源生態建設。同日，MiniMa宣佈擬募資約160億港元。停薪、送股、融資，MiniMax幾乎把穩定預期的牌一次性打了出來。但股價依然沒有止住。7月10日，MiniMax再跌9.68%。顯然，全員信表達的是創始人的態度，融資方案改變的卻是公司的籌碼結構。配售價較前一日收盤價折讓近10%，可轉債未來也可能轉化為新股，老股東首先看到的是攤薄壓力。同一周，智譜也經歷瞭解禁、融資和股價劇烈波動。它在解禁後的兩個交易日分別上漲13.35%和11.34%，市值一度重返9000億港元。7月10日又大跌超19%，幾乎回到解禁前。所謂“大模型雙雄”的分化只維持了兩天。市場最終討論的已經不只是解禁，而是兩家公司需要多少錢、還能融多少錢，以及現有收入能否支撐如此高的估值。01.兩種解禁，同一種壓力智譜7月8日解禁約2568.16萬股，佔總股本5.76%，持有方主要是11家基石投資者。解禁數量佔總股本的比例不算高，但由於此前流通盤較小，解禁後可交易股份仍擴大至原來的約3.2倍。MiniMax的規模大得多。按照財新統計，此次約有1.53億股解除限售，佔總股本逾48%。此前其自由流通股佔比不足6%，解禁後潛在流通比例升至接近50%。解禁前，兩家公司都組織股東公開表態。智譜約七成基石投資者表示繼續持有，MiniMax則稱超過八成Pre-IPO及基石股東無意減持。但口頭承諾無法改變籌碼性質。智譜此次解禁的主要是基石
異教徒Anthropic，與全世界結仇
異教徒Anthropic，與全世界結仇腦極體2026.07.13 16:16 · 來自天津全文6631字00:00 / 19:53在政治與資本裹挾的AI迷霧中，這個異教徒將行至何處，仍是未知。文 | 腦極體要說2026年AI圈企業誰最招黑，Anthropic稱第一，沒人敢稱第二。6月底，Anthropic單方面指控阿里巴巴用2.
GPT-5.6剛發佈，OpenAI安全主管就跑路了？？
好的，這是一篇根據您提供的素材重寫的完整新聞稿。 --- ### GPT-5.6 剛落地， OpenAI 安全主管就走人？兩年六人離職，安全團隊再陷動盪 當 OpenAI 剛剛將最強大的模型 GPT-5.6 推向市場，外界正在驚嘆其 Agent 能力的飛躍時，公司內部卻再次亮起了安全文化紅燈。據《連線》（WIRED）雜誌報導， OpenAI 安全系統負責人 Johannes Heidecke 已告知同事，他將離開這家全球最受矚目的 AI 公司。
人類剛贏一次，AI一天就反殺，爆火「幽靈字體」被一句話攻破
人類剛贏一次，AI一天就反殺，爆火「幽靈字體」被一句話攻破 不久前，開發者Eric Lu推出了一款名為「Ghost Font」（幽靈字體）的實驗性字體，它利用動態噪點視頻隱藏信息，讓人類肉眼能瞬間讀懂，卻讓當前最強的AI模型集體翻車。這段演示視頻一夜爆火，播放量突破1700萬次，許多人讚歎人類終於在感知能力上贏了AI一回。然而，這個「人類專屬」的壁壘僅維持了一天——提示工程專家Riley Goodside用一句簡單的提示詞就讓AI成功破解，再次凸顯了技術對抗的高速迭代。