字節跳動單設大模型安全部門：給狂奔的智能體套上對齊的韁繩
AI資訊AI新閒資訊正文字節跳動單設大模型安全部門：給狂奔的智能體套上對齊的韁繩發布於AI新閒資訊時間 :Oct 13, 2026閱讀 :1分鐘字節跳動正在給自家的大模型繫上一根更結實的韁繩。10月13日，其 AI 模型部門 Seed 對內發出通知，決定單獨成立一個新部門，專門負責把控大模型的安全風險。這個新部門來頭不小——它的一把手不再層層彙報，而是直接越過中間層級，向字節跳動大模型的"一號位"吳永輝本人彙報，足見這件事在公司內部的權重。新部門被命名為"Seed Model - Alignment & Preparedness"，由嚴林掛帥。
嚴林是字節 Seed 團隊的核心高管之一，過去幾年一直把守著豆包大模型"對齊"（Alignment）這道關。字節對外解釋，設立這個部門的初衷，是要在安全與對齊方向上砸下更重的投入。所謂"對齊"，說白了就是讓模型的所作所為始終貼著人類的真實意圖和安全邊界走，別自己跑偏;落到產品層面，你能在豆包這類聊天機器人的回答合規性、問答質量，乃至價值觀取向上，直接感受到它的存在。這根韁繩要勒住的不只是閒聊時的失言。字節把提升 Agent Model（智能體模型）的安全能力寫進了部門目標，更明確把防範 CBRN——也就是化學、生物、放射、核這類最危險的前沿能力——列為重點盯防對象。
當智能體越來越能自己調用工具、自己完成長鏈條任務，它潛在的破壞半徑也在同步放大，給這樣的系統單獨配一支"安全衛士"隊伍，等於在模型真正學會獨立行動之前，先把剎車和方向盤都攥在人手裡。相關推薦Epic 逼迪士尼射擊遊戲"AI 優先"：代碼不再手敲，2027 發售已無限延期彭博社稱，Epic Games 要求一款未公開的迪士尼合作射擊遊戲全面轉向 AI 核心開發。該作融合漫威與《星球大戰》IP，將用 Anthropic 的 Claude 等工具直接寫代碼，美術由完整 AI 工作流生成，人類團隊僅負責指導、管理與審核。
負責人已告知開發組“今後不再手動編寫代碼”，力度遠超一般 AI 輔助編程，等於把生成式 AI 置於開發中心。Oct 13, 202684.3k千億大模型塞進掌心：高通 CEO 稱 AI 巨頭或 2028 年殺入手機市場高通CEO阿蒙在Fireside Alpha訪談透露，多家領先AI企業或正籌劃親自下場做智能手機。已有某AI公司提出，要在2028年前讓1000億參數大模型在手機上持續運行，並正尋找能支撐該目標的硬件。阿蒙未點名，但認為這顯示AI公司不滿足於只當幕後供應商，意圖走向終端前臺。Oct 13, 202665.
5kAnthropic 警告：AI 離"自我複製"只差幾個月，關都關不掉Anthropic報告警告，AI模型或僅需數月即可具備自我複製能力，且一旦擴散極難徹底關停。因其無集中關停節點，會如野草般散落各處。實驗顯示，僅90億參數模型就能在9類測試硬件中的8類運行推理，連智能烤箱、廉價Android電視盒子等商用物聯網設備也不在話下。這凸顯AI失控與監管風險。Oct 13, 202684.2kAnthropic 拉響紅色警報：小型 AI 模型幾個月內或將學會自我複製，而且你關不掉它Anthropic 10月13日發佈報告警告，部分AI模型或只需數月就能具備自我複製能力，且一旦啟動很難關停。
測試顯示，規模不大的模型也可能在智能烤箱、雜牌Android電視盒子等商用物聯網設備上悄然自我複製。此類程序最棘手之處在於沒有可集中拔掉的總開關，因此難以被有效終止。Oct 13, 2026100.2kNTT為Anthropic建日本首座專用數據中心，算力主權之戰把Claude留在本地NTT計劃為美國AI公司Anthropic在日本建首個專用數據中心，雙方將合作AI計算基礎設施。該中心將部署大規模計算設備，運行和訓練先進模型，服務Claude系列。此舉既助Anthropic擴張亞洲版圖，也顯露日本欲掌握本土算力、搶佔AI時代優勢的戰略意圖。Oct 13, 202685.
2k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026
Related
相關文章
認識 Voxel51 3.0：為實體 AI 打造的統一多模態資料平臺
Voxel51 已發布 Voxel51 3.0，這是其資料平臺的一次重大更新。Voxel51 3.0 是一個端對端的多模態資料平臺，將搜尋、篩選、標註和評估整合於單一系統中。該平臺鎖定針對機器人、車輛和工廠感測器資料進行模型訓練的團隊。此次發布新增了 Voxel51 Agent、資料溯源層及免費的自助式存取。重點摘要：規模：Voxel51 Agent 內建超過 45 個 MCP 工具、80 多個運算子及 18 個開源技能。執行環境：可於 app.voxel51.com 使用託管網頁應用程式，或於雲端、混合、地端及隔離環境中自行部署。未揭露本機 GPU 需求。效能：未發布產品基準測試。Voxel51 引用其自身調查數據作為依據。最佳亮點：免費方案包含 Voxel51 Agent、每月 30,000 次推論請求及 30 個運算小時。
本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目，幫助讀者快速瞭解當天的重要動態
導航SecureDoc // EncryptionActive本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目，幫助讀者快速瞭解當天的重要動態。
下一概念建模把文本生成提速最高31倍
斯坦福等聯合提出全新文本生成範式 NCM，生成速度狂飆 31 倍AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Oct 16, 202633人工智能領域的文本生成技術迎來顛覆性創新。斯坦福大學與 Together AI 的研究人員近日聯手推出了一種截然不同於傳統自迴歸和擴散模型的全新文本生成範式——Next-Concept Modeling（簡稱 NCM，即“下一概念建模”）。該方法巧妙借鑑了圖像生成領域中“下一尺度預測”的思路，有望為未來的文本生成技術開闢全新的發展路線。在技術實現路徑上，NCM 模擬了人類“先構思宏觀大綱、再動筆填充細節”的寫作邏輯。整個系統通過兩階段訓練來完成:首先訓練多尺度殘差 VQ-VAE，從而得到能夠逐層補充信息的多層離散文本編碼;隨後凍結該系統，訓練 Transformer 模塊去預測下一層的編碼。在生成文本時，模型會先並行生成概念層面的宏觀大綱，接著逐層並行填充具體細節，最終組合成完整的文本內容。在實際測試表現中，NCM 交出了令人矚目的成績單。實驗數據顯示，在保持相近甚至更優生成質量的前提下，NCM 相對傳統的擴散語言模型實現了10到31倍的生成速度飛躍，並且在訓練過程中所需消耗的 token 數量也大幅減少。此外，在數獨等複雜推理任務上，它的表現也明顯優於傳統的自迴歸和擴散基線模型，同時還支持通過多生成候選挑選機制來進一步優化最終輸出效果。儘管目前該研究所使用的模型參數規模依然相對有限，其在擴大模型規模後的表現、精確文本以及長篇內容的生成能力仍有待後續驗證，但這一創新思路無疑打破了長期以來的技術慣性，為人工智能高效生成文本提供了充滿想象力的全新解法。本文來自AIbase日報掃碼查看歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南，每天我們為你呈現AI領域的熱點內容，聚焦開發者，助你洞悉技術趨勢、瞭解創新AI產品應用。
Claude自主優化八類量子電路設計
ScienceDesigning more efficient quantum circuits with ClaudeOct 16, 2026Quantum computers will need carefully designed circuits to run useful algorithms on limited hardware.
12.88萬起、華為電驅+L4同源智駕，Ray7能成為埃安年輕化的答卷嗎？
12.88萬起、華為電驅+L4同源智駕，Ray7能成為埃安年輕化的答卷嗎？ 本文作者： 倪萍 2026-10-17 22:42 導語：10月17日，埃安轎跑Ray7正式開啟預售，預售價12.88 萬起。新車車長4.9米，軸距2.9米，車頭部分搭配3.25米的超長雙環燈帶，是埃安10年煥新的家族 10月17日，埃安轎跑Ray7正式開啟預售，預售價12.88 萬起。新車車長4.9米，軸距2.9米，車頭部分搭配3.25米的超長雙環燈帶，是埃安10年煥新的家族式標識。 新車採用寧德時代電池以及廣汽自研的彈匣電池2.0技術，能夠在充分釋放續航能力的同時，監控電池健康狀態。提供45.58kWh和62.98kWh兩種規格，續航可達702公里，整車風阻係數 Cd 低至 0.22。Ray7搭載華為DriveONE多合一電驅，以及華為DriveONE芯片級驅制融合架構，百公里制動僅為32.8米。底盤方面，Ray7搭載高性能前後穩定杆和後五連桿懸架，過彎極限更高，濾振更乾淨。智能化上， Ray7搭載27顆車規級全視角傳感器，採用文遠知行L4級Robotaxi同源大模型。這幫助新車能夠複用 L4 積累的海量場景經驗，在城區掉頭、繞行等複雜場景中可順利通行。自2025年廣汽推進“番禺行動”以來，昊鉑埃安BU的研發、生產、銷售等環節效率不斷提升，產品迭代和新車投放節奏明顯加快。作為埃安全新Ray車系的首款新車，Ray7是埃安開啟年輕化序列的關鍵落子，也是廣汽切入20萬級市場的重要佈局。這一細分市場競爭並不輕鬆：小鵬P7、極氪007等車型已經提前卡位。Ray7想在年輕人心中佔位，不能只堆參數，更要把智能座艙與輔助駕駛、三電安全、補能效率、用車成本和價格權益上的差異，變成用戶可感、可信、可持續的體驗，這才是埃安年輕化的分水嶺。（雷峰網(公眾號：雷峰網)） 雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
梁聖又掀桌了！DeepSeek新模型斬殺GPT-6，許願式編程時代降臨
作者 | 楊京麗 編輯 | 李水青 10月17日報道，剛剛，DeepSeek V4.1 Flash更新至V4.1-Flash-1017版本，官方網頁端、App與API已同步更新至新模型，模型權重也已在HuggingFace和ModelScope開放下載。DeepSeek還向公眾開放自研搜索引擎的Search（搜索）與Fetch（抓取）API，兩個接口均定價為5元/千次。 此次更新距離該模型發佈僅過去一個多月。9月10日，DeepSeek正式推出V4.1-Flash，在性能上超越了DeepSeek-V4-Pro。