螞蟻集團周俊：萬億參數模型從“追求數量”邁向“深耕密度”
重點摘要
AI資訊AI新閒資訊正文 螞蟻集團周俊：萬億參數模型從“追求數量”邁向“深耕密度”發布於AI新閒資訊時間 :Jul 8, 2026閱讀 :1分鐘在近日舉行的 AICon 大會上，螞蟻集團副總裁周俊發表了一場引人注目的演講，聚焦於如何提升萬億參數模型的效率。周俊提到，現代 AI 模型的算力消耗驚人，尤其是萬億參數模型，每運行15分鐘的算力成本竟然相當於一輛特斯拉的費用。
在日前舉行的 AICon 大會上，螞蟻集團副總裁周俊提出了一個令業界深思的觀點：萬億參數規模的大型語言模型正面臨效率瓶頸，發展重心應從「追求更多 Token 數量」轉向「深耕 Token 密度」。他同時揭露了一個驚人的成本對比——一組萬億參數模型僅僅運行十五分鐘，所消耗的算力成本就與一輛特斯拉汽車的售價相當。這番話立即引發與會者的高度關注，也凸顯出 AI 產業在急速擴張的同時，必須正視運算資源的極限。 周俊在演講中指出，當前的智慧體（Agent）時代對模型提出的要求愈來愈高，尤其是處理超長上下文與複雜工具調用時，傳統的注意力機制讓算力成本呈指數級飆升。如果無法從根本上改善效率，大模型的落地應用將被高昂的運算開銷所拖累。為此，螞蟻集團的技術團隊提出了一套顛覆性的解決方案：以「更高 Token 密度」取代「更多 Token 數量」，也就是讓每一個 Token 承載更豐富的資訊與推理價值，而非一味增加序列長度。 這套方案的技術核心是一種名為「7 份 Lightning Attention 加 1 份 MLA」的混合線性注意力架構。Lightning Attention 是一種高效線性注意力機制，能夠大幅降低計算複雜度；而 MLA 則保留了部分傳統注意力的精準度。兩者混合後，團隊成功將處理 256K 長度上下文的成本從原本的指數級別壓縮至線性級別。換句話說，過去需要耗費大量算力才能完成的長文本理解，現在可以用更少的資源達成，釋放出的運算能力則可用於更深入的推理與思考。 除了注意力架構的創新，周俊團隊還引入了名為 Kpop 的演算法。這項技術的核心目的是更精準地區分工具調用（function call）與自然語言 Token。在智慧體應用中，模型時常需要同時處理人類的自然語句以及呼叫外部 API 的指令，如果兩者混淆，不僅浪費 Token，還會導致執行錯誤。Kpop 演算法能有效辨識兩者，搭配思維鏈剪枝（Chain-of-Thought Pruning）與自蒸餾（Self-Distillation）等技術，使得整體 Token 輸出量減少了約四倍，但模型的推理能力與任務表現並未因此下降。 令人振奮的成果反映在多項公開基準測試中。周俊在演講中透露，在 LongBench（長文本理解）與 BFCL（Berkeley Function Call Leaderboard）等權威測試裡，螞蟻集團的千億參數模型（約數百億到千億規模）在智慧體相關任務上已經超越了一些規模更大的模型。更難得的是，這些小型模型的 flash 吞吐率達到了 2.4 倍，五輪對話所需的算力成本更降低了超過十倍。這證明「深耕密度」的策略不僅可行，而且能讓中小型模型具備超越超大模型的實戰能力。 周俊的觀點為當前「參數軍備競賽」的氛圍提供了另一條出路。過去幾年，各大科技公司紛紛推出參數量達萬億甚至更大的模型，認為參數愈多能力就愈強。然而，隨著算力成本急遽攀升，業界開始反思：有沒有可能透過架構創新與演算法優化，讓現有的參數發揮更大效益？螞蟻集團的實踐給出了肯定的答案——聚焦於 Token 密度的提升，而非盲目擴張序列長度或參數量。 這場演講不僅是一次技術分享，更帶有產業方向的啟示意義。周俊強調，未來的智慧體設計必須將效率視為首要考量，否則即便擁有再龐大的模型，也難以在實際應用中持續營運。螞蟻集團的混合線性注意力架構、Kpop 演算法以及多項剪枝與蒸餾技術，已經在內部得到驗證，並且正在逐步對外開放部分成果。業界分析認為，這套思路可能引領下一波大模型最佳化的浪潮。 在 AICon 大會現場，與會者對周俊的演講反應熱烈，許多人認為「從數量到密度」的轉變是一個務實且具前瞻性的方向。隨著 AI 應用從實驗室走向生產環境，運算效率不再只是技術選項，而是商業可行的必要條件。螞蟻集團的這一系列創新，為整個行業提供了一份具體的藍圖：不必一味追求參數量級的突破，只要在架構與演算法上精耕細作，就能用更少的算力換取更高的智慧水準。
Related
相關文章
AI 視頻全面成熟：Seedance 2.0 領銜，6 款主流工具深度橫評
賬號設置我的關注我的收藏申請的報道退出登錄登錄搜索36氪Auto數字時氪未來消費智能湧現未來城市啟動Power on36氪出海36氪研究院潮生TIDE36氪企服點評36氪財經職場bonus36碳後浪研究所暗湧Waves硬氪氪睿研究院媒體品牌企業號企服點評36Kr研究院36Kr創新諮詢企業服務核心服務城市之窗政府服務創投發佈LP源計劃VClubVClub投資機構庫投資機構職位推介投資人認證投資人服務尋求報道36氪Pro創投氪堂企業入駐創業者服務創投平臺AI測評網 首頁快訊資訊推薦財經AI自助報道廣東最新創投汽車科技專精特新直播視頻專題活動搜索尋求報道我要入駐城市合作AI 視頻全面成熟：Seedance 2.0 領銜，6 款主流工具深度橫評36氪AI測評·2026年07月08日 11:03實測6款主流AI視頻生成工具，覆蓋全場景供選型參考。 2026年，AI視頻生成賽道已邁入全面爆發的成熟競速期，Seedance 2.0 的出圈更是讓AI視頻變成一場“全民狂歡”。 短短兩年間，AI視頻從最初幾秒的碎片化模糊畫面，到如今分鐘級長視頻的連貫敘事、真實物理世界的精準還原，AI視頻工具的迭代速度遠超預期，AI視頻工具完成了從“能用”到“好用”再到“專業”的三級跳，讓創意落地的門檻降至新低——專業團隊能用它預演大片，普通用戶也能一鍵生成爆款短視頻。 在這場全球競速中，每一款工具都在以獨特的優勢，定義著下一代視頻創作的未來。 為了讓不同需求的讀者都能選到適配的工具，我們耗時兩週實測了國內外數十款AI視頻生成產品，最終篩選出6款主流選手形成榜單以供參考，從零基礎創作到專業影視後期，從個人自媒體到企業商用，覆蓋所有視頻創作場景。這篇文章會講透每款工具的核心優勢、實測體驗、短板不足，幫你繞開選擇誤區，一次選對適合自己的AI視頻生成工具。 AI視頻生成工具榜單 國內工具 1. 即夢AI（Seeda
AI猜球總翻車？世界盃給了大模型一次壓力測試
AI猜球總翻車？世界盃給了大模型一次壓力測試TechHorizon2026.07.08 10:58 · 來自廣西全文3244字00:00 / 10:06賽場之外，一場關於國產AI大模型的淘汰賽也進入到了考驗期。2026美加墨世界盃淘汰賽1/8決賽進行中。與小組賽階段強弱分明的態勢不同，進入到淘汰賽，每一場都將決定生死，球隊實力差距明顯壓縮，加時賽、點球大戰等環節隨時上演，球隊需要時刻為奪得盃賽打起十二分精神。當賽場上的球隊拼勁廝殺時，賽場之外，一場關於國產AI大模型的淘汰賽也進入到了考驗期。究竟是大型翻車現場，還是科技的高光舞臺？本屆世界盃成為了AI大模型爭相驗證能力的競技場。當大模型集體誤判冷門在已經結束的92場比賽中，由聯想與咪咕聯合發起的“世界盃預測人機大戰”給出了新的成績單：12家國產AI整體命中率64%，人類玩家的命中率為53.8%中移九天排名第一，命中64場次聯想天禧AI和阿里千問並列第二，各命中63場次AI贏了。從純概率的角度，它確實比人類猜得更準，尤其是AI在小組賽階段準確率61.9%，到了淘汰賽首輪已經提升到了64%。但這份成績單並不代表AI就懂球。在佛得角對陣西班牙的比賽中，賽前11家AI大模型集體押注西班牙獲勝，1家預測佛得角贏球，結果卻是0-0的平局。而在隨後在佛得角以2-2戰平烏拉圭，以0-0對陣沙特阿拉伯，以不敗戰績成功出線的兩場比賽中，12家大模型中有4家未看好佛得角出線，且均為猜中與沙特的比分情況。不僅如此，DeepSeek等集體預測荷蘭隊將在常規時間內戰勝摩洛哥隊晉級，英國投資銀行潘繆爾-利貝魯姆公司的模型還預測荷蘭隊將奪冠，Kimi則還在賽前高調預測了德國隊將奪得本屆世界盃。但實際情況是，兩支球隊均止步32強，紛紛打臉AI模型。在賽前，阿里千問還曾就“姆巴佩和哈蘭德誰進球更多”話題，提出姆巴佩進球更多，這與體育解說名嘴黃健翔截然相反。這一
200+具身機器人的大腦，融了個天使輪
由上海人工智能研究院孵化的具身智能新創「靈境智源」，在尚未對外公開融資消息的情況下，僅憑不到兩週的窗口期，就完成超億元的天使輪與天使+輪融資，兩輪皆實現超額認購。據了解，這家成立僅一年的企業，在融資過程中吸引數十家一線財務投資機構、產業CVC與產業資本密集對接排隊盡調，最終提前關閉募資，由經緯創投領投、上海閔行國資戰略跟投，兩輪絕大部分份額均由經緯創投包攬，老股東翻倍鎖倉，展現對該項目高度信心。
李開復要做升級版的Palantir，零一萬物發佈“一號位AI”
零一萬物在7月7日正式發表「萬策AI」平台，並同步推出三款鎖定企業高層的「一號位決策AI」產品——老闆AI、銷冠AI與投資官AI。創辦人李開復在會後與媒體深度對談，直言企業導入AI轉型失敗往往不是技術問題，而是決策者錯位、資料孤島與缺乏可量化的財務影響。他更透露零一萬物2025年已達成5億訂單、2.5億審計收入，2026年前五個月訂單突破15億，目標在2027年衝刺上市，成為「中國首家盈利的AI 2.0公司」。 過去一年，李開復親自會見數百位企業CEO。
剛剛，Fable 5 極限續命五天，Claude 榨乾指南請收好
這篇消息聚焦「剛剛，Fable 5 極限續命五天，Claude 榨乾指南請收好」。目前站內已移除先前混入的模型思考或安全判斷文字，並保留來源可確認的主題供讀者追蹤。
消息稱智譜考慮自研芯片
智譜（Z.ai）正評估自研AI晶片的可能性，以應對GLM系列模型需求激增。自研晶片可實現軟硬體協同優化，提升算力效率並降低對外部供應商的依賴，OpenAI、DeepSeek等競爭對手也有類似規劃。