字節要衝 5 萬億參數:豆包的智商有望拉滿,代價是百萬顯卡級別算力

2026年8月7日 04:008400 次瀏覽
站內 AI 整理稿

字節跳動醞釀5萬億參數大模型,算力投入或達百萬顯卡級別 國產大模型的參數量競賽正在進入一個全新的量級。繼Qwen3.8Max與Kimi K3分別將規模推升至2.4萬億與2.8萬億參數之後,行業的下一個目標直指5萬億大關。據《晚點 LatePost》報道,字節跳動內部正就訓練一個參數量超過5萬億的大模型展開討論,若該計劃落地,將成為中國已知規模最大的AI模型。不過,消息人士指出,該計劃仍處於早期階段,最終是否會正式發布尚存變數。5萬億參數的意義與行業標桿 5萬億參數究竟代表什麼?這被業界視為對標GPT-5.6或Opus 5級別的能力水準。

在當前AI技術發展邏輯中,參數量的提升通常直接關聯模型性能的增強,尤其是複雜推理、多模態理解與生成能力。OpenAI與Anthropic之所以能在全球保持領先地位,正是依賴於更高參數量的模型儲備。據了解,這兩家美國AI巨頭內部甚至已經在訓練或完成10萬億參數級別的大模型,這使得字節跳動此次的舉動被視為追趕全球第一梯隊的關鍵一步。算力需求的幾何級數增長 但超高參數背後是極其驚人的算力消耗。以NVIDIA H100 GPU為基準進行測算,訓練一個5萬億參數的模型,需要10萬顆H100芯片連續運行347天。若將顯卡規模擴充至100萬張,則可將訓練時間壓縮至35天。

百萬張顯卡級別的算力集群,已跨入GW(吉瓦)級功耗門檻,這對任何企業的基礎設施建設與能源供應都是極大的挑戰。字節跳動顯然不會一次性投入如此規模的算力,更為務實的路線是採用20萬至30萬張顯卡,進行3至4個月的密集訓練,再疊加數據準備、模型對齊與後訓練等環節,整個週期至少需要半年,甚至可能長達一年。算力儲備的全球格局 從全球算力儲備來看,OpenAI 依然擁有最充裕的資源。根據 SemiAnalysis 的測算,其掌握的顯卡總量約為200萬張,Anthropic 則擁有約62萬張。相比之下,中國AI公司 DeepSeek 僅有約6萬張顯卡,且其中不少為性能受限的 H20 或 H800 型號。

字節跳動雖然未公佈具體顯卡數量,但憑藉其雄厚的資本實力,要支撐5萬億參數模型的訓練並非不可能。業內人士分析,字節的財力足以“餵飽”這一巨型模型,關鍵在於其是否願意為此投入如此巨大的資源。豆包的商業化困境與轉型 這筆巨額投入的背後,是字節對其AI產品“豆包”能力提升的迫切需求。據了解,豆包目前的日活躍用戶已超過2億,但其每日收入卻不足百萬元,主要依賴電商佣金變現,商業化結構單一。截至今年5月,豆包的日均算力成本已達數千萬元,收入遠不能覆蓋成本,經營壓力巨大。因此,訓練一個5萬億參數的模型,讓豆包的智商“拉滿”,被視為提升用戶粘性與探索新商業模式的核心手段。一旦豆包的能力達到 GPT-5.

6 或 Opus 5 級別,其對話質量、任務完成度與多模態交互能力將發生質變,有望擺脫目前僅靠流量變現的困境。商業回報的終極懸念 不過,業內人士也指出,參數量的提升並非萬能鑰匙。在模型規模達到一定閾值後,性能提升的邊際效應會遞減,而算力成本卻呈指數級上升。對於字節而言,最大的懸念在於,這筆天文數字的投入能否在落地端換來對等的收益。如果豆包無法在商業化上找到新的突破口,那麼即便模型智商“拉滿”,也難以覆蓋其高昂的訓練與運維成本。這也使得字節此次的決定,不僅是技術層面的豪賭,更是一場商業模式的大考。國產大模型軍備賽再升級 字節的這一動向,也將國產大模型的軍備競賽推向了新的高度。

此前,智譜AI創始人唐傑已公開透露,GLM-5.5將迎來“史詩級”升級;阿里千問與月之暗面的Kimi也在持續擴大參數規模。如今,字節的入局,使得中國AI行業在萬億參數級別的競爭更加白熱化。業界普遍認為,參數量的競賽只是表象,背後是算力、數據、算法與資本的綜合較量。而字節此次的選擇,無疑將給整個行業的發展方向帶來新的變數。

Related

相關文章

智東西生成式AI

一文看懂昇騰超節點:AI Infra已進入系統工程階段

(公眾號:zhidxcom) 作者 | 陳駿達 編輯 | 漠影 AI大模型競賽,正在進入新的量級。海外,十萬億參數的大模型已經逐步變成現實;國內,數萬億參數的大模型也在加速追趕。為了訓出真正的SOTA模型,算力集群從萬卡走向10萬卡已成為標配。 然而,一個尷尬的現實是:卡越堆越多,真正被利用起來的算力,卻沒有同步增長。華為的仿真數據顯示,在10萬卡集群中,卡間通信可能消耗了40%以上的訓練時間,算力利用率(MFU)往往不到30%。也就是說,大量昂貴的算力,並沒有真正用於計算。

剛剛
鈦媒體生成式AI

Anew labs,“蒸餾”的行家

醫曜2026.09.21 18:00 · 來自北京全文2781字00:00 / 08:07首款自研藥AN5162,me-too了Dice/禮來。文 | 醫曜AI圈如今言必稱"蒸餾"。蒸餾現有知識,蒸餾競爭對手,蒸餾員工技能,無物不可蒸餾。醫藥圈很少說蒸餾。但這個行業有一個耳熟能詳、讓人稍微有點不屑、卻又必須面對的詞——me-too:copy對手的骨架,在對手專利之外尋求突破。copy得好,是me-better,甚至是me-best(Best-in-Class);copy失敗呢?那就me-worse嘍。

1 小時前

Anthropic與字節扎堆AI製藥,下一個Coding風口卡在了數據這道坎上

Anthropic一邊自建溼實驗室,用來測試自家模型指揮生物實驗的能力,一邊牽手諾和諾德、百時美施貴寶,並把Coefficient Bio收入囊中;字節跳動分拆出來的新生實驗室也完成了首輪融資。被寄予厚望的AI,當下主要作用在把新藥早期研發的輪子轉得更快——壓縮候選分子的搜索空間和實驗迭代時間,但真正燒錢又耗時的臨床試驗環節卻難同步縮短,早期命中率提上來,並不等於臨床成功率就跟著漲。

1 小時前