百度開源2800億參數文心5.5Flash Base,多項基準測試刷新同尺寸SOTA

2026年11月5日 08:006200 次瀏覽
站內 AI 整理稿

AI資訊AI新閒資訊正文百度開源2800億參數文心5.5Flash Base,多項基準測試刷新同尺寸SOTA發布於AI新閒資訊時間 :Nov 5, 2026閱讀 :1分鐘11月5日,百度正式開源全新基座模型文心5.5Flash Base,在知識、推理、數學、代碼、多語言和長上下文等多項基準測試中刷新同尺寸模型SOTA表現,超越DeepSeek-V4-Flash-Base、Hy3-preview-Base等同類模型。該模型採用MoE架構,總參數量達2800億,激活參數140億,使用33.5萬億Token完成預訓練,預訓練上下文長度最高達128K,微調與推理階段支持最長100萬Token上下文。

圍繞效率主線,文心5.5Flash Base在系統層進行多項算法創新。注意力機制上引入Latent-Gated Sparse Attention,組合HCA與MLA壓縮歷史信息並細粒度訪問歷史位置,利用低秩門控注意力使門控投影權重參數減少75%,同時通過虛擬頭注意力提升表達力。專家路由上採用Multi-Router Latent MoE,以多獨立路由器改善專家選擇效用。在訓練目標上引入ECHO,複用主幹最後一層學習預測後續Token,免去額外MTP模塊。大模型基建方面,優化分佈式Muon優化器並推出FlashMask-4注意力算子,進一步提升大規模訓練的通信與顯存利用效率。

當前大模型競爭正向模型能力、訓練效率與場景創新協同演進。文心5.5Flash Base的開源在降低專業模型開發門檻的同時,為開發者構建定製化專業模型提供了高效的技術底座。相關推薦DeepSeek V4.1 Flash發佈:原生多模態視覺理解全面超越Pro版深度求索發佈輕量級多模態模型DeepSeek V4.1Flash,為系列最小尺寸。其採用552B參數MoE架構,創新引入Causal-Encoder-Decoder結構,具備原生視覺理解能力,旨在提升能力上限、推理速度與吞吐量,並具備向更大模型擴展潛力。Sep 10, 2026412.3k訊飛星火X2.

5發佈:MoE架構重磅加持,代碼與智能體能力實現跨越式升級科大訊飛發佈星火X2.5大模型,採用MoE混合專家架構,參數規模達293B-A30B,在架構設計、核心能力及國產算力適配方面全面升級,重點強化代碼編寫與智能體(Agent)應用開發能力。Sep 7, 2026267.9k訊飛星火 X2.5 正式發佈:MoE 架構 293B,代碼與智能體能力大幅提升科大訊飛發佈星火X2.5大模型,採用MoE架構,參數規模293B-A30B,重點提升代碼與智能體能力,並增強數學、理解等通用能力。該模型基於全國產算力完成訓練推理,優化國產超長序列訓推難題,已上線訊飛開放平臺。端側4B和1.

7B模型已先行開源,支持最長100萬Token上下文。Sep 7, 2026289.5k百度“雙重主要上市”落地 AI全棧資產迎重估與南向資金流入百度8月27日宣佈將香港第二上市轉為雙重主要上市,2026年9月1日生效,成為納斯達克與港交所兩地首家全棧AI雙重主要上市公司。轉換不涉新股發行和融資;截至2026年6月底現金及投資達2831億元,經營現金流連續四季為正。按現行規則,最快有望9月7日納入港股通。Aug 28, 2026329.

8k百度二季度營收313億元,AI業務佔比連續兩季過半百度2026年第二季度總營收313億元,一般性業務收入252億元,其中AI業務佔比達50%,連續兩季度過半。李彥宏稱公司正加速向AI優先型企業轉型。二季度AI雲基礎設施收入73億元,同比增長50%;GPU雲同比增長283%,連續四個季度三位數增長。IDC報告顯示百度智能雲在金融、遊戲等領域領先。Aug 18, 2026277.3k智啟未來,您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026

Related

相關文章

AI 讓死亡成為"可選項"?布羅克曼拋出生命終極命題

布羅克曼拋出生命終極命題發布於AI新閒資訊時間 :Nov 5, 2026閱讀 :1分鐘在近日的《華爾街日報》科技峰會上,OpenAI 總裁格雷格·布羅克曼拋出了一個足以顛覆常識的判斷:未來死亡或許會成為一種可以自主選擇的事情。他並未把話說滿,只是強調生物學領域的突破"並非只與人類有關",而死亡能否成為選項"本身就是一個值得思考的問題",並提到人們都在承受各種痛苦、這些事都可能成真。

5 分鐘前3900

AI日報:iOS 27.3 beta正式接入千問;豆包工作首次接入第三方模型;雷軍曬小米機器人做家務視頻

iOS 27.3 beta 正式接入阿里千問,替代 ChatGPT 角色蘋果iOS 27.3 beta在中國區將Apple Intelligence的雲端大模型由ChatGPT替換為阿里千問,並說明瞭端雲協同機制。從行業角度看,這是蘋果在華AI合規與本地化的重要一步,但測試版功能穩定性與隱私邊界仍待驗證。

1 小時前7000

Sand.ai 宣佈完成 2 億美元 A+ 輪融資,多方資本與上海國資強勢加碼

作為當前大模型賽道備受矚目的新生代力量,此次超大額融資的順利交割,標誌著市場對視頻生成技術商業化落地前景的堅定信心。多方頂尖資本匯聚,老股東持續加碼在此輪融資中,投資方陣容堪稱豪華,匯聚了產業資本、知名人民幣及美元基金以及上海國資等多方重要力量。

2 小時前4400

Claude Code 產品負責人 Cat Wu 閃電跳槽,兩週內三位核心骨幹相繼離職

據最新行業動態顯示,前 Claude Code 產品負責人 Cat Wu 在宣佈從 Anthropic 離職的僅僅一天之後,便正式宣佈加入競爭對手 OpenAI,實現了無縫銜接的閃電跳槽。核心產品管理與高層歡迎在加入 OpenAI 之後,Cat Wu 將主要負責核心產品的產品管理工作,並與掌管相關業務的 Tibo 協同開展工作。

2 小時前6000