螞蟻開源 SingProbe:以輕量探針實現大模型生成風險實時攔截,計算開銷不足 0.5%

2026年9月15日 01:04
站內 AI 整理稿

AI資訊AI新閒資訊正文螞蟻開源 SingProbe:以輕量探針實現大模型生成風險實時攔截,計算開銷不足 0.5%發布於AI新閒資訊時間 :Sep 15, 2026閱讀 :1分鐘螞蟻集團 AI 安全實驗室近日正式開源大模型內生式安全護欄技術 SingProbe。該技術區別於主流的外掛式安全審核模式,通過複用基座模型推理過程中的隱藏狀態,以不足0.5% 的額外計算開銷,實現 token 級實時風險評估,可同步完成意圖分類、安全檢測和幻覺識別任務,在醫療等高風險場景優勢突出,能在內容輸出前實施毫秒級阻斷。

目前 SingProbe 已適配29個主流大模型,是首個由大型科技企業開源的完整內生式安全技術解決方案,其開源代碼和預訓練模型已同步發佈。相關推薦Claude Opus 5.2 深夜灰度上線:響應更快,還治好了“偷懶病”Claude Opus 5.2 已悄悄在 Claude Code 灰度上線。開發者發現前端仍顯示 Opus 5,但表現遠超網頁版;抓包顯示背後模型 slug 已指向 Opus 5.2。這是大廠通過路由“障眼法”灰度測試新模型的常見做法。Sep 15, 202674.9k藍蟲具身發佈模塊化人形機器人“小白”,0.

98 萬元起售西安交大科技成果轉化企業藍蟲具身9月14日發佈新一代模塊化人形機器人Mantis Standard“小白”,起售價僅0.98萬元,打破傳統高價門檻。該產品定位為可靈活變形的具身智能平臺,底盤、手臂、腰部、頭部採用標準模塊設計,支持多種形態組合,引發業界廣泛關注。Sep 14, 2026185.4kYC 總裁反對封殺蒸餾:與其禁,不如讓開源實驗室走“正門”合法獲取能力Anthropic發佈威脅情報報告,指控中國實驗室以隱藏身份、欺詐和盜取憑證等手段非法蒸餾前沿模型,CEO呼籲美國監管打擊。

Y Combinator總裁Garry Tan反對監管,稱應“什麼都不做”,認為美國該有自己的蒸餾能力。Sep 14, 2026179.8kWorkBuddy 升級 PPT 能力:一句話生成可上臺版,原文件可續改騰訊WorkBuddy於9月14日升級PPT生成:支持一句話出初稿、基於原文件續改、無需整份重做。用戶可在對話框輸入指令或點擊“幻燈片”、調用“/tencent-pptx”技能。材料不全時,僅提供主題和頁數,系統會補問彙報對象、場景與目標,並按“問題—論證—結論—落地”主線生成;也可傳入調研報告等資料。Sep 14, 2026173.

4kGPT-6 Astra展現恐怖統治力:模擬售貨機一年狂攬1.5萬美元,成績碾壓Claude近3倍Andon Labs的Vending-Bench2測試中,AI代理用500美元模擬經營自動售貨機一年。GPT-6Astra平均餘額達15515美元,最差一輪也超Claude Fable5.1最好成績,首次登頂,優勢體現在供應鏈管理和規則執行力。Sep 14, 2026192.9k智啟未來,您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026

Related

相關文章

量子位生成式AI

無問芯穹與華環電子簽署戰略合作,共同探索國產異構算力AI基礎設施新方向

無問芯穹與華環電子簽署戰略合作協議,雙方將結合各自在AI軟體平台、網路通信與硬體研發的優勢,共同探索國產異構算力基礎設施的協同方案。此次合作聚焦於智算中心解決方案及「Token工廠」新模式,目標是推動計算、網路與AI原生基礎設施深度融合,為AI規模化應用提供高效穩定的支撐。

9 分鐘前
IT之家生成式AI

優步全球範圍裁員 10%,被裁員工稱 AI 已大舉滲透日常工作

作者:清源 責編:清源 評論: 9 月 18 日消息,據《商業內幕》今天(18 日)晚間報道,在優步(Uber),AI 已經滲透到員工工作的許多環節,從回答 Slack 裡的內部問題,到替乘客行程中聯繫客服時收到的消息撰寫回復。6 名近期遭裁員的員工透露,過去幾個月,AI 在工作中的使用範圍明顯擴大,其中一些人甚至會通過提示詞讓 AI 完成相當一部分任務。

3 小時前
鈦媒體生成式AI

月之暗面遞表之後,Kimi 的成色要被驗算三遍

舒澤品牌手記2026.09.18 18:16 · 來自浙江全文4982字00:00 / 14:05Anthropic 的 30 萬次指控,會成為招股書的第幾頁?文 | 舒澤品牌手記9月17日,月之暗面發佈了一套金融行業解決方案。按官方披露,中信建投、中金公司、易方達等數十家金融機構已經在用 Kimi 處理投研建模、風險排查和盡調材料——研究人員把管理層報表、審計報告和盡調文件交給 Kimi,拿回一份可以繼續調整假設的 Excel 模型。同一天,深圳商報記者就港股上市進展、股東架構調整等事項向月之暗面發去採訪函。

5 小時前

Calibre上手 AI 互動寫作:電子書管理器搖身變成"文字冒險遊戲引擎"

這個遊戲默認藏而不發,不會跟著 Calibre 啟動就冒出來。用戶得主動在"首選項 — 工具欄和菜單"裡把它請到主工具欄,才算真正激活。它的玩法很清晰:由 AI 在後臺搭起並掌管一個虛構世界,用戶通過不斷輸入文字來推著故事往前走,等於把"讀電子書"這件事,翻轉成了"和 AI 一起寫故事"。

7 小時前