百度開源文心5.5 Flash Base，多基準測試刷新同尺寸模型 SOTA
11月5日，百度正式開源最新基座模型文心5.5 Flash Base（ERNIE 5.5 Flash Base）。模型採用MoE架構，總參數量2800億，每個 Token 激活140億參數，使用33.5萬億個 Token 完成預訓練，預訓練上下文長度最高達128K，微調與推理階段支持最長100萬 Token上下文。在知識、推理、數學、代碼、多語言和長上下文等多個基準測試中取得同尺寸模型 SOTA 表現，超過 DeepSeek-V4-Flash-Base、Hy3-preview-Base、MiMo-V2.5-Base 等模型。開源地址：https://huggingface.
co/baidu/ERNIE-5.5-Flash-Base 隨著大模型應用從文本問答向長文檔分析、多輪交互和智能體任務延伸，模型需要處理的信息量持續增加，計算和顯存開銷也隨之上升。在保證模型能力的同時提高資源利用效率，已成為大模型研發的重要課題。文心 5.5 Flash Base圍繞“效率”這一設計主線，在注意力機制、專家路由及訓練機制等關鍵環節進行系統性優化，並實現了多項算法創新。在注意力機制上，文心提出 Latent-Gated Sparse Attention，將混合稀疏注意力、低秩門控注意力與虛擬頭注意力結合起來。
其中，模型通過組合HCA與MLA，讓不同注意力層分別承擔壓縮歷史信息和細粒度訪問歷史位置的任務；低秩門控注意力（Low-Rank Gated Attention）則利用已有的低維表示計算信息門控，使門控投影權重參數減少75%；此外，虛擬頭注意力（Virtual Head Attention，VHA）可提升模型表達力與訓練質量，推理時融合進注意力算子，開銷極小。這些設計降低了長上下文處理的資源開銷，同時保留模型對關鍵信息的處理能力。在專家路由上，模型採用 Multi-Router Latent MoE，由多個獨立路由器共同參與專家選擇，改善路由評分與專家實際效用之間的相關性。
相比依賴單一路由器的傳統方案，該設計旨在降低單一評分偏差對專家選擇的影響，同時保持激活專家數量、專家計算量和通信量不變。在訓練目標上，模型引入 ECHO，無需額外增加 MTP 模塊（Multi-Token Prediction），而是複用主幹最後一層，讓主幹自身學習預測後續 token，從而提前規劃序列走向，有效提升推理與代碼能力。文心5.5 Flash 僅採用單步 ECHO 預訓練，複用的最後一層還可作為投機解碼的草稿模型，展現出多步外推能力：同樣只訓練一步，多步起草質量大幅優於輔助 MTP 模塊。除模型架構外，大模型基建創新也十分重要。
文心對分佈式Muon優化器進行了優化，並推出面向大 head dim 的注意力算子 FlashMask-4，改善大規模訓練中的通信、顯存利用與計算效率。模型能力的提升不僅依賴算法本身，也與訓練系統能否高效支撐這些設計密切相關。基座模型不僅承載著預訓練階段形成的通用能力，也是下游模型開發與應用創新的重要基礎。與面向終端用戶的應用模型不同，Base 模型為開發者和企業提供了進一步微調與定製的空間，可基於自身業務需求構建適應不同場景的專業模型與應用。開放基座模型能夠為開發者提供更多技術選擇，降低專業模型開發的訓練成本與技術門檻。當前，大模型的競爭逐漸邁向模型能力、訓練效率與場景創新協同發展的新階段。
隨著推理、Agent等技術與應用加速演進，行業對基座模型的需求也從單一的能力提升，轉向更高效的訓練範式、更靈活的能力拓展，以及更廣泛的場景適配需求。文心5.5 Flash Base在提升模型基礎能力與訓練推理效率的同時，為開發者和社區提供了更具拓展性的技術基礎，推動模型技術走向多樣化的能力探索與應用創新。
Related
相關文章
Claude Code 造星操盤手被挖：OpenAI 拿下 Cat Wu
AI資訊AI新閒資訊正文Claude Code 造星操盤手被挖：OpenAI 拿下 Cat Wu發布於AI新閒資訊時間 :Nov 5, 2026閱讀 :1分鐘OpenAI 又從老對手 Anthropic 手裡撬走一員大將。前 Claude Code 產品負責人 Cat Wu 今日在社交平臺宣佈正式加盟，出任核心產品（Core Products）產品管理負責人，參與 OpenAI 核心產品與 AI 智能體相關業務。她將與企業產品負責人 Nick Turley、消費級產品負責人 Ashley Alexander 協同，並向 Tibo Sottiaux 彙報；OpenAI 總裁 Greg Brockman 隨後在 X 上轉發入職消息並公開致歡迎。這位操盤手並非泛泛之輩——她親歷 Claude Code 從內部原型走向商業化的全過程，也是其早期在社媒上的重要推手，還曾負責 Anthropic 面向非編程知識工作的 Cowork 產品，在 AI 智能體與辦公場景的產品化上積累深厚。此次轉會，無疑給本就白熱化的兩家對抗再添一把火。一個年入 25 億美元的產品Wu 的份量，很大程度上來自她打磨過的那款明星工具。據 Anthropic 披露，截至 2026 年 2 月，Claude Code 的年化收入運行率已突破 25 億美元，較當年年初增長一倍以上，每週活躍用戶翻倍，企業訂閱數更是達到年初的 4 倍。在她參與推動期間，Claude Code 逐漸坐穩了 AI 編程領域的頭部位置。換言之，OpenAI 挖走的不僅是一個人，更是把一款標杆產品的產品方法論一併搬了過來。這也解釋了 OpenAI 為何願意為一位產品負責人高調站臺。兩進兩出的人，一場人才戰加盟聲明裡，Wu 對 OpenAI 不吝讚美，稱自己敬佩這家公司"向世界證明瞭規模化 AI 的可行性"，讓超過十億人用上 AI，並始終相信優秀
AI 幫用戶成功“越獄”跑步機：Claude 輕鬆幹掉 iFIT 訂閱牆，大屏幕秒變自由流媒體
AI資訊AI新閒資訊正文AI 幫用戶成功“越獄”跑步機：Claude 輕鬆幹掉 iFIT 訂閱牆，大屏幕秒變自由流媒體發布於AI新閒資訊時間 :Nov 5, 2026閱讀 :1分鐘近日，海外網友在 Reddit 社區分享了一次極具極客色彩的硬件改造經歷:他藉助 AI 編程工具 Claude Code，成功對家中的 NordicTrack Commercial2250跑步機進行了系統“越獄”，徹底繞過了官方對 iFIT 的強制訂閱限制，將原本封閉的大屏改造成了可以自由使用的流媒體娛樂界面。從煩人的訂閱牆到耗時一天半的改造這臺配備了10英寸顯示屏的跑步機是網友幾年前為女友購買的，原本的初衷是希望能在日常鍛鍊時順便觀看 Netflix 或 Crunchyroll 等流媒體視頻。然而在實際使用中，設備卻設置了重重限制:即便用戶已經單獨為流媒體服務付過費，跑步機仍強制要求額外訂閱昂貴的 iFIT 才能訪問相關功能。不僅如此，每次鍛鍊前都必須苦等 iFIT 加載，還要面對各種煩人的廣告與會員提示，極大地影響了運動體驗。為了打破這一現狀，該網友決定利用 Claude Code 親自對系統進行改造，整個項目的攻克與調試過程大約耗時一天半，相關代碼和項目目前也已經正式公開至 GitHub。改造後的實際體驗與不容忽視的潛在代價經過 AI 輔助改造後，跑步機的用戶體驗迎來了煥然一新:自定義主屏幕: 系統成功集成了一個全新的主屏幕，將 Netflix、Crunchyroll、實時運動數據以及各項控制選項完美融合。功能互不幹擾: 用戶在邊看視頻的同時，依然可以正常操作各項健身功能，且原有的物理實體按鍵也保持完全可用。性能顯著提升: 經過系統層面的優化與精簡，Netflix 的啟動速度從改造前的將近一分鐘大幅縮短至約21秒。不過，這項頗具創意的“越獄”操作並非沒有代價。在目前的版本中，Netflix
AI 讓死亡成為"可選項"？布羅克曼拋出生命終極命題
布羅克曼拋出生命終極命題發布於AI新閒資訊時間 :Nov 5, 2026閱讀 :1分鐘在近日的《華爾街日報》科技峰會上，OpenAI 總裁格雷格·布羅克曼拋出了一個足以顛覆常識的判斷：未來死亡或許會成為一種可以自主選擇的事情。他並未把話說滿，只是強調生物學領域的突破"並非只與人類有關"，而死亡能否成為選項"本身就是一個值得思考的問題"，並提到人們都在承受各種痛苦、這些事都可能成真。
AI日報：iOS 27.3 beta正式接入千問；豆包工作首次接入第三方模型；雷軍曬小米機器人做家務視頻
iOS 27.3 beta 正式接入阿里千問，替代 ChatGPT 角色蘋果iOS 27.3 beta在中國區將Apple Intelligence的雲端大模型由ChatGPT替換為阿里千問，並說明瞭端雲協同機制。從行業角度看，這是蘋果在華AI合規與本地化的重要一步，但測試版功能穩定性與隱私邊界仍待驗證。
百度開源2800億參數文心5.5Flash Base，多項基準測試刷新同尺寸SOTA
該模型採用MoE架構，總參數量達2800億，激活參數140億，使用33.5萬億Token完成預訓練，預訓練上下文長度最高達128K，微調與推理階段支持最長100萬Token上下文。圍繞效率主線，文心5.5Flash Base在系統層進行多項算法創新。
Sand.ai 宣佈完成 2 億美元 A+ 輪融資，多方資本與上海國資強勢加碼
作為當前大模型賽道備受矚目的新生代力量，此次超大額融資的順利交割，標誌著市場對視頻生成技術商業化落地前景的堅定信心。多方頂尖資本匯聚，老股東持續加碼在此輪融資中，投資方陣容堪稱豪華，匯聚了產業資本、知名人民幣及美元基金以及上海國資等多方重要力量。