字節跳動Seed單拆安全對齊部門,嚴林掛帥專防智能體越界與CBRN風險

2026年10月13日 04:004500 次瀏覽
站內 AI 整理稿

AI資訊AI新閒資訊正文字節跳動Seed單拆安全對齊部門,嚴林掛帥專防智能體越界與CBRN風險發布於AI新閒資訊時間 :Oct 13, 2026閱讀 :1分鐘字節跳動Seed團隊近日發出內部郵件,宣佈成立一個名為Seed Model-Alignment&Preparedness的新部門,由原Responsible AI團隊和部分Chat團隊成員轉入,由嚴林負責,直接向Seed負責人吳永輝彙報。把安全與對齊單獨拎出來成立一級部門,意味著這家公司在模型安全方向上的投入被提到了一個新量級。對齊這個詞的內核很直白:讓模型的行為始終貼著人類意圖和安全約束走,別跑偏、別自作主張。

新部門要啃的兩塊硬骨頭也很清楚——一是提升Agent Model也就是智能體模型的安全能力,二是防範CBRN這類前沿能力風險。CBRN指的是化學、生物、放射與核,都是一旦被模型不當釋放就可能造成嚴重後果的能力域。換句話說,當字節的智能體開始自己動手幹複雜任務,它要先在籠子裡被馴服,再被放出去幹活。相關推薦阿里千問推出 Personal Agent「千問Go」辦事類 Agent 落地真實 App阿里千問將推Personal Agent“千問Go”,以Agent架構升級辦事範圍。首批場景覆蓋機票延誤理賠、電商價保、汽車保養詢價預約、運動場地預訂,以及結合補貼、舊機回收和送裝費計算家電到手價。

案例中,用戶僅要求其與App客服溝通賠償,未給航班信息;千問Go雲端登錄預訂平臺,排查四家航司訂單,結合客服反饋鎖定目標訂單。Oct 13, 2026137.7k亞馬遜欲以約 70 億美元收購 Decart,此前 兩大巨頭收購談判均已告吹亞馬遜正洽談以約70億美元(約469億元人民幣)收購成立僅三年的初創公司Decart。Decart由Dean、Orian Leitersdorf和Moshe Shalev於2023年創辦,手握一項當下格外受關注的技術。此前英偉達和Anthropic均曾與Decart談判,但接連破裂,亞馬遜有望接手這枚“被放棄的棋子”。交易仍在商談,結果待觀察。

Oct 13, 202685.2k微軟押注自研Maia芯片: 2027 年鋪到吉瓦級,納德拉稱"對自家硅最大一賭"微軟計劃將自研Azure Maia AI芯片從實驗室推向主舞臺。高管古思裡稱,2027年起以多吉瓦級規模部署Maia,使其成為各產品線主要推理系統。現役Maia200已在美國、歐洲、澳大利亞運行Microsoft Copilot,GitHub Copilot和Foundry年底前接入。CEO納德拉稱此為“我們對……”,原文至此截斷。Oct 13, 2026137.

6k英特爾陳立武預警:AI 硬件還要缺兩三年,智能體正改寫芯片配比英特爾CEO陳立武10月12日在新加坡星展銀行會議上判斷,受技術供應鏈持續受限拖累,未來兩到三年AI硬件仍將供應緊張。他梳理AI與量子等核心趨勢,並指出內存芯片等核心元件正緊缺、價格連月攀升,臺積電封裝產能也已觸頂。作為緊盯芯片工藝與新材料的高管,陳立武對行業風向向來敏銳。Oct 13, 2026108.

5k3 個月燒掉 5000 億 Token,AI 把《現代戰爭 2》源代碼"復刻"了 83%10月9日,霍伊曼公佈:團隊耗時三個月、耗超5000億詞元算力,調動AI智能體將2009年《使命召喚:現代戰爭2》反編譯並重建為C++源碼。成員包括RektInator、Future、st0rm等。初期在Claude Code與Codex並行運行智能體,調用Sonnet 5、Opus 5.5、Luna、Sol、Terra等模型,經GitHub Issues派發任務。Oct 13, 2026133.1k智啟未來,您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026

Related

相關文章

MarkTechPost AI模型更新

Google 開源 Harness²:遞迴代理程式框架,無需新模型也能提升效能

Google Cloud AI Research 開源了 Harness²,這是一個遞迴代理程式框架,透過改良凍結模型周圍的程式碼與檔案來增強效能。對開發者而言,重點很簡單:你的代理程式無需更強大的模型也能進步。重點摘要:規模為框架而非模型,訓練參數為0,包含8個可編輯的框架元件,版本0.1.0。執行環境為Linux、Python 3.12或3.13搭配uv,模型呼叫則透過Vertex AI。GPU需求未公開。效能方面:一次改良步驟即可在3個基準測試中,提升所有4個模型與框架組合的表現。最佳成果:GLM-5搭配OpenCode在WorkBuddy-Bench上從64.2提升至75.7(+11.5點);最差表現:GLM-5搭配Codex在JobBench上僅提升1.2點(23.6至24.8)。什麼是Harness²?它是Google研究推出的即插即用框架。

15 小時前
MarkTechPost AI模型更新

認識 Kyutai REKI:2.4B VLA 模型為機器人操控帶來高效記憶

Kyutai 與 Inria 及 École des Ponts 合作,推出了 REKI——一個用於機器人操控的 2.4B 參數視覺-語言-動作模型(VLA)。該模型僅使用公開數據進行預訓練,並配備了輕量級的近期記憶功能。在三個分佈外基準測試中,僅有規模約為其兩倍的模型能超越它。所有模型權重已於今日在 Hugging Face 上公開。核心資訊:規模:2.4B 參數(2.2B Qwen3.5-2B VLM + 0.2B 流匹配動作專家)。記憶涵蓋最近 3 幀,間隔 1 秒。運行環境:在 1 張 NVIDIA H100 上進行基準測試。從兩個 256×256 攝像頭輸入,編譯後每個動作區塊耗時 21.8 毫秒。權重以 BF16 格式提供,暫無量化版本。性能:在 LIBERO-Plus 和 RoboTwin Clean2Rand 基準測試中,為公開數據預訓練的 VLA 模型中最優;在 LIBERO-Plus 上達到 90.4% 的最高分。

1 天前
MarkTechPost AI模型更新

DeepSeek 發布 V4.1-Flash-1017,DeepSWE 得分 77.0,並開放搜尋 API

DeepSeek 剛發布 DeepSeek-V4.1-Flash-1017,這是其 V4.1-Flash 模型的新檢查點,現已在 DeepSeek 網站、應用程式及 API 上線。DeepSeek 宣稱該版本在性能、任務完成速度與輸出簡潔度上均優於 9 月發布的 V4.1-Flash,並稱之為性能與成本的帕累託改進。同時,DeepSeek 也向所有開發者開放了搜尋與擷取 API。對代理建構者而言,這意味著更便宜的編碼模型加上單一 API 金鑰即可使用的第一方網路層。重點摘要:骨架參數 552B,另加 196B 的 Engram 參數;預填充階段每 token 啟用 8B 參數,解碼階段啟用 16B 參數;上下文長度達 1M tokens,最大輸出 384K tokens。運行於 DeepSeek API 的 deepseek-flash 模型。9 月版的 V4.1-Flash 權重(763B 參數,FP8)採 MIT 授權。

1 天前
MarkTechPost AI模型更新

2026年20款Jev替代方案:挑戰TypeSafe的決策模型

TypeSafe於2026年9月15日推出Jev,這是一款決策模型而非聊天機器人。使用者可定義允許的答案,Jev將回傳標籤、分數或是否的機率。約4週內,至少20款Jev替代方案相繼問世,來自Cloudflare、OpenAI、Perplexity、Liquid AI、AWS的Strands Labs及獨立開發者。本指南比較各方案在規模、授權、硬體、價格、Jev API相容性及已發布基準測試的表現。重點摘要:規模範圍從287M(GLiNER2.5-multi-Decide)到35B-A3B(Mapika Decider),Jev規模未公開。執行環境:Von和Laya等編碼器可在CPU上運行,4B適配器適用24 GB GPU或32 GB Mac。效能:多數開源模型在困難推理上落後Jev,但在狹窄分類任務上數款與之匹敵或超越。最佳表現:Cloudflare Clef在BANKING7取得94.20分。

1 天前
雷峰網模型更新

長鑫科技市值兩月內跌去1萬億;阿里加碼AI硬件品牌,天貓、速賣通聯動;國行版蘋果AI有望12月上線,百度、阿里參與合作丨雷峰早報

要聞提示1.長鑫科技市值兩月內跌去1萬億2.年內已至少18次故障!DeepSeek發放宕機補償,有人拿到3000元3.阿里加碼AI硬件品牌,天貓、速賣通聯動4.國行版蘋果AI有望12月上線,百度、阿里參與合作5.可靈AI新一代模型Kling 4.

2 天前