大模型「土木系」終翻身：AI Infra 年薪衝到 800 萬？

“以前 AI 業內把做 Infra、做工程的叫‘計算機裡的土木系’，幹著最髒最累的活，拿墊底的錢。誰能想到他們現在這麼值錢？”某大模型獨角獸高管劉立向感慨道。他拋出一組薪資行情對比：AI Infra 工程崗以前在大廠，年包基本到不了 300 萬；現在，好的 Infra 人有能開到七八百萬的。比起算法崗（500~1400 萬）還有差距，但已經算打了個漂亮的翻身仗。上市人力資源服務公司科銳國際華南區 AI 業務資深專家盧炳寧，也見證了這場狂飆：“2024 年在深圳見一個做 Infra 的候選人，他年薪還是 30 萬；2025 年漲到 50 萬；今年一跳槽，直接 100 萬。”這不是個例。

“Infra 人才從獨角獸跳去互聯網大廠，薪資翻倍的有；從大廠跳去獨角獸創業公司，薪酬包能漲到 3 倍左右，不過期權佔大頭。3 倍屬於個例，2 倍更常見。”他補充道。這輪漲薪的起爆點，是 DeepSeek R1 的發佈。“2025 年初 R1 爆火，讓大家看到了 Infra 提升的價值，AI Infra 人才立馬被各家模型廠商瘋搶，這種狀態一直持續到現在。”盧炳寧表示。然而，薪水翻倍從來不是雨露均霑。當市場的真金白銀砸向這群人，究竟是什麼在為他們定價？又是哪類 Infra 人，吃到了這輪紅利裡最肥的那塊肉？01“土木系”，憑什麼拿高薪？什麼是 AI Infra 人才？

簡單來說，AI Infra 人才做的是怎麼把昂貴的 GPU 算卡，榨出盡可能高的利用率，實打實替公司省錢。盧炳寧告訴，2022 到 2024 這三年，Infra 崗基本是個“配角工種”。ChatGPT 出來後，國內隨即進入“百模大戰”和應用嚐鮮階段。資本和團隊盯的是兩件事：模型效果打平 ChatGPT，儘快跑出 Killer App。關注度也好，高薪也好，都優先給了算法崗和產品崗。在“先上車再買票”的焦慮下，工程效率的優先級並不高，背後的算力浪費和調度效率問題被暫時掩蓋。“只要集群別崩、賬單別炸，就算交差。Infra 工程這類支撐團隊的價值，當時被等同於運維，沒人當回事。

”某大模型實驗室算力調度專家張桐坦言。反轉發生在 DeepSeek R1 出來之後。據盧炳寧回憶，R1 發佈後，行業都在琢磨一件事：DeepSeek 就那麼點人，卻做出了那麼好的產品，賺了那麼多錢，他們到底是怎麼做到的？後來答案的一部分，落在了 Infra 降本上。大家發現，大模型推理燒的是真金白銀，而且常常把賬單燒穿。這時候做 Infra 降本，省下的每一分都是實打實的利潤。於是各家開始盯著 DeepSeek 挖人，薪酬基本都是敞開了聊。做好 Infra 降本，算力開支能節省上千萬“Infra 現在的角色，就是給廠商省錢。省錢也是在賺錢。”盧炳寧說。能省多少？

據他估算，做好 Infra 降本，算力開支能省下至少幾千萬的成本。落到具體方向上，算子是把單張卡榨到極致，推理是把各類資源調度結合起來，做成本優化、提高有效利用率。其中 PD 分離、專家並行、VLLM、SGlang 這幾類優化，降本降得最狠。要知道，大模型公司最貴的開銷，幾乎都壓在這些卡上。業內流傳過這樣一筆預算配比：AI 模型公司每投 100 塊到 AI 訓練上，40 塊花在算力，30 塊花在人才，20 塊打廣告，剩下 10 塊買數據。訓練一次大模型、跑一晚推理，GPU 集群的採購、租賃和電費，往往吃掉 AI 業務成本的大頭，有的公司甚至佔到 6 成以上。可錢花出去，卡卻常常在空轉。

張桐告訴，行業裡 GPU 的實際利用率長期偏低，平均只在 25% 到 27%，也就是說買來的算力有一大半沒被真正跑起來。而這，恰是 Infra 人才的用武之地，“同樣是這批卡，好的Infra團隊能把利用率拉到 40%，這十幾個百分點的差距，就是壁壘。”簡單算一筆賬：B 卡 8 卡的一套機子，國內現貨交割 1300 萬，3 個月後的期貨大概 1100 萬，“但凡省 8 張卡，一千多萬就省出來了”。但省錢只是賬面上最直觀的一層。更深的一層是，大模型的技術競賽，已經從拼算法創新，走到了拼底層系統工程的硬仗階段。

AI行業階段變了，Infra的價值權重也變了在算法紅利見頂的當下，底層系統工程成了性價比更高的槓桿。“你在 Infra 上摳出一點優化，帶來的效率飛躍，遠比死卷算法划算得多。”某大模型獨角獸資深 AI Infra 工程師周嶽坦言。現在卷算法越來越難，因為大模型技術側已經變了天。大模型訓練眼下近乎開卷考試。得益於開源模型普及，Transformer 等基礎架構走向成熟收斂，行業比拼的重點，已經從基礎預訓練，轉移到工程化落地、推理優化這些環節。“現在大模型訓練裡，真正‘非你不可’的創造性工作已經很少了，大部分活就是數據清洗、數據配比實驗、工程調優這些。這些活稱不上高科技，卻能帶來真金白銀。

”周嶽補充道。他還講了一個“七級老鉗工”的例子：Infra 工程師打開服務器，把光纖和線捋一捋，紮帶鬆開一點別扎太緊，就能讓一臺服務器快個 10% 到 20%。“這玩意兒你真的講不通道理在哪裡，必須要真的幹過才能摸透。”“Infra 這個崗位，確實已經不是以前那個 Infra 了。”盧炳寧告訴，以前 Infra 效益不高，是因為 2023、2024 年大家看的是評測，提升幾個點對公司就是正向的，還能借此融到錢。但現在算法和產品基本成熟了，公司開始轉而要每張卡能產生的最大價值。這時候 Infra 帶來的收益很容易被量化，價值自然就升上去了。但價值被重估，不等於人人都漲薪。

當市場把高薪砸向 Infra，真正吃到那塊最肥溢價的，其實只有一小撮人。02僅 5% 的人吃到了這輪溢價？看上去，“薪資翻倍”這四個字，已經成了 AI Infra 招聘市場的口頭禪。但在 StartLux 聯合創始人兼 CTO 郭權瑋看來，這更像把少數離群值，錯當成了普遍常態。他的判斷有一些數據支撐。脈脈上的崗位薪資顯示，中國大陸 AI Infra 人才月薪大致在 7.3 萬元，已經略高於做大模型算法的人。不過，平均數掩蓋了內部分化。真正把薪資曲線拉起來的，是那波能把算卡利用率提上去的人；而大量做“普通 Infra”的人，離翻倍還遠。

比如，把 VLLM、SGLang 這類推理框架部署到產品上的 Infra 崗位，月薪大多停在 4 萬到 5 萬，跟“翻倍”不沾邊。更具體來說，誰的薪資在翻倍？幾位受訪者給出的答案集中在兩個方向：推理優化和模型量化。這類人做的事，正是把每一張 GPU 的算力盡可能壓榨到極限。“如果你幫公司省下 30% 的訓練時間，或者多出 30% 的 Token 吞吐，成本就能直接降下一截，就意味著研發產出提高了。”郭權瑋補充道。在他看來，能把算子優化做紮實、把推理引擎的量化做漂亮、把吞吐量真正跑出來的人，薪資翻倍並不過分。但問題是，這群人並沒有想象中的多。

在郭權瑋看來，這群人大多是在 Infra 行當裡深耕了 5 到 10 年的老兵。他們早年在大型互聯網公司做分佈式系統、高性能計算、搜索推薦、數據庫，起薪本就不低，經驗很難被替代。“你有這 5 到 10 年，才接得住今天 AI Infra 的盤子；一個剛畢業、或者才工作一兩年的新人，開口就要兩倍薪資，那不科學。”據郭權瑋估計，這類真正吃到高溢價的人，在整個 AI Infra 人群裡基本只佔 5%~10%。在漲薪分化上，盧炳寧也持類似觀點。他將 Infra 劃分成了三塊：推理優化加速、訓練框架、算子開發。“這三塊漲幅都高，但受重視程度有所差別。

”他給了一個通俗的比方：做算子開發的，就像是在打磨廚具，刀怎麼磨最利、鍋怎麼受熱最勻；做訓練框架的，是在搭後廚體系，誰來切菜、誰來掌勺、出錯誰頂上；做推理的，是想怎麼出餐最快。一份食譜怎麼同時端出 10 道菜、餵飽幾千個客人，做變現的環節。業內一般認為算子和推理更重要，冷熱也就這麼分出來了。瞭解到，招聘市場上，訓練框架人才的熱度相對一般。原因之一是這活太燒錢了，只有頭部互聯網和雲廠商養得起專職團隊，而一些獨角獸乾脆把訓練組整個砍掉，只留推理和算子團隊。03誰在重金買單：五類買家，五本賬崗位冷熱的分化，背後是不同僱主私下的算盤與焦慮。

放眼整個行業，願意為 Infra 溢價買單的“買家們”，大致有以下五類，它們的需求各有不同。“字節業務體量大，他們要的是能把訓練推理調度做穩的人。不管是 Seedance 還是豆包，如果推理工程師能加速 10%，一年省下的算力開支相當可觀，投入產出比高得嚇人。”前述大模型獨角獸高管劉立表示。騰訊走的是另一條路：早幾年基模偏弱，這兩年明顯在補基模和完整 Infra，引入姚順雨、單獨成立 AI Infra 部門，靠從外部撈成熟團隊來補齊。阿里和百度這類雲廠商，則是另一種節奏。

上一波雲計算和大數據的紅利期裡，他們就攢下大批搞分佈式、做底座的 Infra 工程師，AI 浪潮一來，不少人可以直接轉崗補缺。加上兩家都有自研芯片，重心更多放在異構上，招人也成了日常動作，細水長流，很少有把薪資拉爆的狂熱。真正對 Infra 人才需求暴漲的，是字節、騰訊，外加 DeepSeek、Kimi、MiniMax 這些想要把每張卡的效益都榨到極致的獨角獸。一般來說，巨頭的排兵佈陣講究正規軍兵團作戰，一個 Infra 部門通常至少五六十人起步，算子、訓練、推理、網絡分得跟外科手術室一樣細。而獨角獸們，往往走的是“精簡特種兵”模型。

它們的 Infra 團隊通常二十來號人，偏愛既懂算子底層、又能操盤推理引擎的多面手。架構也比較扁平，一個“全能”技術老大挑大樑，底下帶兩三個細分方向的頂尖高手，再領著二十來個資深打手，靠極高的單兵作戰能力跟大廠肉搏。最後是一群正在“賭國運”的國產芯片廠商。“不少國產芯片廠商都已經走到 IPO 階段，期權眼看能兌現，一些 Infra 人才會抱著‘賭一把、財富自由’的想法跳槽過去。”劉立告訴。雖然芯片廠開出的現金漲幅普遍在 45% 上下，很少能見到大廠那種翻倍的開價，但那張有可能兌現的股票，本身就是個極有誘惑力的籌碼。

與此同時，放到底層技術棧上看，英偉達 NV 卡與國產卡這兩條路線，溢價差距同樣明顯。前述資深獵頭盧炳寧告訴，熟悉英偉達 CUDA 生態依然是“硬通貨”，這類人才跳槽漲幅保底在 80% 以上；國產卡更依賴軟硬件協同與複雜的生態適配，漲幅通常在 50% 上下，沒 NV 人才那麼猛。不過，受限於外部的限售政策，NV 側的人才本就不多；而政策又在推動各家採購國產芯片，國產卡這條線上的人，前景反而更有想象空間。值得一提的是，北美市場對AI Infra人才同樣求賢若渴。OpenAI 近期放出的崗位幾乎全被推理引擎、GPU 底層算子與性能加速佔據，Anthropic 也有十幾個對應職位在招。

04結語AI Infra 人才的這波漲薪還能持續多久？這也是很多人關心的問題。盧炳寧的判斷是，這波漲薪，至少還能撐兩三年。“現在還處在供不應求的狀態，各家廠商基本都在招，薪酬掛得很高。”之所以還會漲，是因為 Infra 衍生出了很多新業務場景。通用對話基模這塊，國內很多廠商佈局得差不多了；但複雜垂直場景的落地，才剛剛拉開序幕。無論是狂吃算力的 AI Coding，還是對吞吐與延遲要求極高的高清視頻生成賽道，全鏈路的商業化閉環，很多都還沒走完。這些新賽道正在激烈交火，廠商們搶奪人才的戰事遠未終局。

只要大模型的商業化還在被昂貴的算力賬單持續刺痛，那些能在算卡上擠出利潤的 Infra 人才，就會繼續獲得一路走高的薪酬溢價。▼推薦閱讀▼BAT 集體重做「AI 預訓練」，補「髒數據」的坑2026-09-23AI 短劇日產 1500 部：一場全員狂飆下的「無人生還」2026-10-13