大模型沒有獨門秘笈：騰訊混元4如何靠開源生態與頂尖人才實現逆襲？

AI資訊AI新閒資訊正文大模型沒有獨門秘笈：騰訊混元4如何靠開源生態與頂尖人才實現逆襲？發布於AI新閒資訊時間 :Sep 1, 2026閱讀 :1分鐘大模型真的存在不可告人的技術壁壘嗎?前不久從OpenAI空降騰訊的姚順雨曾直言“做大模型其實並沒有什麼秘密”。起初外界以為這只是一句玩笑，但在騰訊混元4（Hy4preview）近期交出答卷後，這句話的含金量徹底顯現。面對智譜、月之暗面、DeepSeek以及千問等強敵環伺的競爭格局，騰訊在短短四個月內完成了混元大語言與多模態部門的重組，並推出了770B參數規模、支持百萬上下文的混元4。

細究其技術配置會發現，大模型所謂的獨家秘笈，早已在開源機制與頂尖人才的高速流動下被徹底解構。從底層骨架來看，混元4在700B這一中大規模檔位上，直接對齊了國內此前由智譜GLM-5（744B）跑通並立住口碑的工程最優解。其主幹網絡的隱藏維度為6144、78層、64個注意力頭，這些參數決定了Transformer網絡在深度、寬度和注意力並行結構上的統一選擇。對於急需突圍的騰訊而言，站在前人驗證過的共識底座上，避免了重複踩坑。在核心技術沿路遷移上，混元4的注意力模塊巧妙融合了多方開源成果。其主幹借鑑了DeepSeek在V3.

2中開源的稀疏注意力機制（DSA），通過輕量級索引器在超長上下文中篩選Top-K Token，從而避免遍歷全部歷史。隨後，它又吸收了智譜團隊在IndexCache中驗證的跨層索引複用機制，允許相鄰Transformer層直接複用已有索引結果，最高可砍掉75%的索引器計算量，實現端到端性能提速。此外，在殘差側優化上，混元4放棄了複雜的mHC，轉而採用了源自微軟研究員謝天在社交平臺上公開討論的恆等超連接(iHC)方案。技術接力的背後，是頂尖人才的深度流動。清華姚班畢業、曾擔任智譜GLM-5新模型架構及DSA負責人白雨石，已於數月前正式加入騰訊混元團隊，並出現在混元長上下文稀疏注意力論文的作者欄中。

正是在這些天才研究員的推動下，隱性工程經驗完成了從一家企業到另一家企業的物理遷徙。如今，任何能夠通過論文、代碼和實驗數據表達出來的技術優勢，其獨佔期都在急劇縮短。從頂會論文到開源代碼，再到社區熱議的討論帖，前沿架構的傳播路徑已徹底扁平化，大模型的行業護城河正被開源生態與人才流動迅速填平。相關推薦智譜下一代AI錨定大基座路線，力求發佈首日即迎滿載調用智譜在2026半年度業績會上披露下一代大模型進展：堅定大基座路線，核心目標是發佈首日即可支持滿規模業務調用，以解決模型規模虛大卻難以實際應用的痛點。具體技術參數暫未披露，後續將圍繞底層基座推進。Sep 1, 2026114.

1k蘋果訴OpenAI迎來重磅證據：前員工MacBook被查出非法竊取與AI代理訓練內幕蘋果訴OpenAI商業秘密案取得關鍵進展：法院對前蘋果工程師劉暢離職後使用的MacBook初步取證，發現四項指向性極強的證據。該電腦由劉暢律師近期交還，顯示其離職前存在多項違規操作，或涉及洩密。蘋果正申請加速調查。Sep 1, 202695.5k一臺MacBook引發的訴訟拉鋸:蘋果追加指控OpenAI硬件業務竊密蘋果提交新證據，指控OpenAI利用前蘋果工程師劉暢竊取的涉密技術發展硬件業務並試圖銷燬證據。

調查顯示，劉暢離職後下載數十份含電路原理圖的機密文件，入職OpenAI後用公司MacBook運行電路仿真程序。Sep 1, 202681.4kOpenAI十萬億參數新模型Bel預訓練完成OpenAI被曝完成代號“Bel”的10萬億參數超大規模預訓練模型，作為繼“Doug”後的下一代基座，架構與參數規模大幅躍升，目標直指通用人工智能（AGI）。其在編碼、推理及長時程智能體任務等維度性能表現突出。Aug 31, 2026214.

5k騰訊混元發佈開源旗艦模型Hy4preview，總參數770B、上下文1M騰訊混元8月28日發佈開源旗艦大模型Hy4preview，總參數770B、激活參數49B，上下文1M，定位真實生產力。模型已開源至HuggingFace、GitHub、ModelScope等，並上線騰訊雲TokenHub、OpenRouter，可在WorkBuddy/CodeBuddy、元寶、ima體驗。其依託軟工、遊戲、金融、安全等領域專家數據共建，在四大方向取得進展。Aug 28, 2026355.0k智啟未來，您的人工智能解決方案智庫English簡體中文繁體中文にほんご© 2026