大模型沒有獨門秘笈:騰訊混元4如何靠開源生態與頂尖人才實現逆襲?

2026年9月1日 02:305300 次瀏覽
站內 AI 整理稿

AI資訊AI新閒資訊正文大模型沒有獨門秘笈:騰訊混元4如何靠開源生態與頂尖人才實現逆襲?發布於AI新閒資訊時間 :Sep 1, 2026閱讀 :1分鐘大模型真的存在不可告人的技術壁壘嗎?前不久從OpenAI空降騰訊的姚順雨曾直言“做大模型其實並沒有什麼秘密”。起初外界以為這只是一句玩笑,但在騰訊混元4(Hy4preview)近期交出答卷後,這句話的含金量徹底顯現。面對智譜、月之暗面、DeepSeek以及千問等強敵環伺的競爭格局,騰訊在短短四個月內完成了混元大語言與多模態部門的重組,並推出了770B參數規模、支持百萬上下文的混元4。

細究其技術配置會發現,大模型所謂的獨家秘笈,早已在開源機制與頂尖人才的高速流動下被徹底解構。從底層骨架來看,混元4在700B這一中大規模檔位上,直接對齊了國內此前由智譜GLM-5(744B)跑通並立住口碑的工程最優解。其主幹網絡的隱藏維度為6144、78層、64個注意力頭,這些參數決定了Transformer網絡在深度、寬度和注意力並行結構上的統一選擇。對於急需突圍的騰訊而言,站在前人驗證過的共識底座上,避免了重複踩坑。在核心技術沿路遷移上,混元4的注意力模塊巧妙融合了多方開源成果。其主幹借鑑了DeepSeek在V3.

2中開源的稀疏注意力機制(DSA),通過輕量級索引器在超長上下文中篩選Top-K Token,從而避免遍歷全部歷史。隨後,它又吸收了智譜團隊在IndexCache中驗證的跨層索引複用機制,允許相鄰Transformer層直接複用已有索引結果,最高可砍掉75%的索引器計算量,實現端到端性能提速。此外,在殘差側優化上,混元4放棄了複雜的mHC,轉而採用了源自微軟研究員謝天在社交平臺上公開討論的恆等超連接(iHC)方案。技術接力的背後,是頂尖人才的深度流動。清華姚班畢業、曾擔任智譜GLM-5新模型架構及DSA負責人白雨石,已於數月前正式加入騰訊混元團隊,並出現在混元長上下文稀疏注意力論文的作者欄中。

正是在這些天才研究員的推動下,隱性工程經驗完成了從一家企業到另一家企業的物理遷徙。如今,任何能夠通過論文、代碼和實驗數據表達出來的技術優勢,其獨佔期都在急劇縮短。從頂會論文到開源代碼,再到社區熱議的討論帖,前沿架構的傳播路徑已徹底扁平化,大模型的行業護城河正被開源生態與人才流動迅速填平。相關推薦智譜下一代AI錨定大基座路線,力求發佈首日即迎滿載調用智譜在2026半年度業績會上披露下一代大模型進展:堅定大基座路線,核心目標是發佈首日即可支持滿規模業務調用,以解決模型規模虛大卻難以實際應用的痛點。具體技術參數暫未披露,後續將圍繞底層基座推進。Sep 1, 2026114.

1k蘋果訴OpenAI迎來重磅證據:前員工MacBook被查出非法竊取與AI代理訓練內幕蘋果訴OpenAI商業秘密案取得關鍵進展:法院對前蘋果工程師劉暢離職後使用的MacBook初步取證,發現四項指向性極強的證據。該電腦由劉暢律師近期交還,顯示其離職前存在多項違規操作,或涉及洩密。蘋果正申請加速調查。Sep 1, 202695.5k一臺MacBook引發的訴訟拉鋸:蘋果追加指控OpenAI硬件業務竊密蘋果提交新證據,指控OpenAI利用前蘋果工程師劉暢竊取的涉密技術發展硬件業務並試圖銷燬證據。

調查顯示,劉暢離職後下載數十份含電路原理圖的機密文件,入職OpenAI後用公司MacBook運行電路仿真程序。Sep 1, 202681.4kOpenAI十萬億參數新模型Bel預訓練完成OpenAI被曝完成代號“Bel”的10萬億參數超大規模預訓練模型,作為繼“Doug”後的下一代基座,架構與參數規模大幅躍升,目標直指通用人工智能(AGI)。其在編碼、推理及長時程智能體任務等維度性能表現突出。Aug 31, 2026214.

5k騰訊混元發佈開源旗艦模型Hy4preview,總參數770B、上下文1M騰訊混元8月28日發佈開源旗艦大模型Hy4preview,總參數770B、激活參數49B,上下文1M,定位真實生產力。模型已開源至HuggingFace、GitHub、ModelScope等,並上線騰訊雲TokenHub、OpenRouter,可在WorkBuddy/CodeBuddy、元寶、ima體驗。其依託軟工、遊戲、金融、安全等領域專家數據共建,在四大方向取得進展。Aug 28, 2026355.0k智啟未來,您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026

Related

相關文章

MarkTechPost AI生成式AI

認識 Voxel51 3.0:為實體 AI 打造的統一多模態資料平臺

Voxel51 已發布 Voxel51 3.0,這是其資料平臺的一次重大更新。Voxel51 3.0 是一個端對端的多模態資料平臺,將搜尋、篩選、標註和評估整合於單一系統中。該平臺鎖定針對機器人、車輛和工廠感測器資料進行模型訓練的團隊。此次發布新增了 Voxel51 Agent、資料溯源層及免費的自助式存取。重點摘要:規模:Voxel51 Agent 內建超過 45 個 MCP 工具、80 多個運算子及 18 個開源技能。執行環境:可於 app.voxel51.com 使用託管網頁應用程式,或於雲端、混合、地端及隔離環境中自行部署。未揭露本機 GPU 需求。效能:未發布產品基準測試。Voxel51 引用其自身調查數據作為依據。最佳亮點:免費方案包含 Voxel51 Agent、每月 30,000 次推論請求及 30 個運算小時。

21 小時前
何夕2077生成式AI

下一概念建模把文本生成提速最高31倍

斯坦福等聯合提出全新文本生成範式 NCM,生成速度狂飆 31 倍AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Oct 16, 202633人工智能領域的文本生成技術迎來顛覆性創新。斯坦福大學與 Together AI 的研究人員近日聯手推出了一種截然不同於傳統自迴歸和擴散模型的全新文本生成範式——Next-Concept Modeling(簡稱 NCM,即“下一概念建模”)。該方法巧妙借鑑了圖像生成領域中“下一尺度預測”的思路,有望為未來的文本生成技術開闢全新的發展路線。在技術實現路徑上,NCM 模擬了人類“先構思宏觀大綱、再動筆填充細節”的寫作邏輯。整個系統通過兩階段訓練來完成:首先訓練多尺度殘差 VQ-VAE,從而得到能夠逐層補充信息的多層離散文本編碼;隨後凍結該系統,訓練 Transformer 模塊去預測下一層的編碼。在生成文本時,模型會先並行生成概念層面的宏觀大綱,接著逐層並行填充具體細節,最終組合成完整的文本內容。在實際測試表現中,NCM 交出了令人矚目的成績單。實驗數據顯示,在保持相近甚至更優生成質量的前提下,NCM 相對傳統的擴散語言模型實現了10到31倍的生成速度飛躍,並且在訓練過程中所需消耗的 token 數量也大幅減少。此外,在數獨等複雜推理任務上,它的表現也明顯優於傳統的自迴歸和擴散基線模型,同時還支持通過多生成候選挑選機制來進一步優化最終輸出效果。儘管目前該研究所使用的模型參數規模依然相對有限,其在擴大模型規模後的表現、精確文本以及長篇內容的生成能力仍有待後續驗證,但這一創新思路無疑打破了長期以來的技術慣性,為人工智能高效生成文本提供了充滿想象力的全新解法。本文來自AIbase日報掃碼查看歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南,每天我們為你呈現AI領域的熱點內容,聚焦開發者,助你洞悉技術趨勢、瞭解創新AI產品應用。

1 天前
雷峰網生成式AI

12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎?

12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎? 本文作者: 倪萍 2026-10-17 22:42 導語:10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族 10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族式標識。 新車採用寧德時代電池以及廣汽自研的彈匣電池2.0技術,能夠在充分釋放續航能力的同時,監控電池健康狀態。提供45.58kWh和62.98kWh兩種規格,續航可達702公里,整車風阻係數 Cd 低至 0.22。Ray7搭載華為DriveONE多合一電驅,以及華為DriveONE芯片級驅制融合架構,百公里制動僅為32.8米。底盤方面,Ray7搭載高性能前後穩定杆和後五連桿懸架,過彎極限更高,濾振更乾淨。智能化上, Ray7搭載27顆車規級全視角傳感器,採用文遠知行L4級Robotaxi同源大模型。這幫助新車能夠複用 L4 積累的海量場景經驗,在城區掉頭、繞行等複雜場景中可順利通行。自2025年廣汽推進“番禺行動”以來,昊鉑埃安BU的研發、生產、銷售等環節效率不斷提升,產品迭代和新車投放節奏明顯加快。作為埃安全新Ray車系的首款新車,Ray7是埃安開啟年輕化序列的關鍵落子,也是廣汽切入20萬級市場的重要佈局。這一細分市場競爭並不輕鬆:小鵬P7、極氪007等車型已經提前卡位。Ray7想在年輕人心中佔位,不能只堆參數,更要把智能座艙與輔助駕駛、三電安全、補能效率、用車成本和價格權益上的差異,變成用戶可感、可信、可持續的體驗,這才是埃安年輕化的分水嶺。(雷峰網(公眾號:雷峰網)) 雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。

1 天前
智東西生成式AI

梁聖又掀桌了!DeepSeek新模型斬殺GPT-6,許願式編程時代降臨

作者 | 楊京麗 編輯 | 李水青 10月17日報道,剛剛,DeepSeek V4.1 Flash更新至V4.1-Flash-1017版本,官方網頁端、App與API已同步更新至新模型,模型權重也已在HuggingFace和ModelScope開放下載。DeepSeek還向公眾開放自研搜索引擎的Search(搜索)與Fetch(抓取)API,兩個接口均定價為5元/千次。 此次更新距離該模型發佈僅過去一個多月。9月10日,DeepSeek正式推出V4.1-Flash,在性能上超越了DeepSeek-V4-Pro。

1 天前