最高288核的至強6+,為了Agent高密度部署還下了哪些「雲功夫」?

2026年11月3日 10:03
站內 AI 整理稿

作者 | 陳悅琳編輯 | 包永剛 一個智能體能順利完成任務,不代表成百上千個智能體就能同時高效運行。對於承載大量智能體任務的雲服務器而言,除了提升計算速度,如何在任務集中到來時迅速準備好執行環境、怎樣減少暫時閒置的任務對內存資源的佔用,也成為亟待解決的問題。對此,在一年一度的騰訊全球數字生態大會上,英特爾與騰訊雲聯合發佈了基於至強6+處理器的新一代雲實例,圍繞任務啟動效率、內存資源利用率等關鍵因素進行優化後,其綜合性能較上一代提升30%以上。從此前搭載至強6處理器的S9、S9e、S9pro,到如今的新一代雲服務器(CVM),英特爾與騰訊雲的合作並未停留在處理器性能的升級上。

面對當前模型調用量持續攀升、智能體開始在實際業務中承擔更多工作等趨勢,CPU如何與操作系統、內存等環節協同,正成為雲服務器的新考題——而這也是雙方此次聯合優化的重點。288核至強6+處理器,支撐Agent部署還需跨過內存關AI應用正攀升至全新的量級。中國信通院發佈的《大模型詞元服務性能監測報告(2026年)》顯示,2026年6月,國內日均Token消耗量已達到約500萬億,是去年12月的近4倍。這場有關AI使用的“狂歡”不止發生在中國,還在以Agent這一應用形態席捲全球。

在麥肯錫覆蓋全球97個國家的調查中,在年營收超過10億美元的企業受訪者中,40%表示其所在企業已在至少一個業務職能中規模化部署Agent,高於2025年的27%。與傳統的一問一答不同,智能體能夠將一項任務拆解為多個步驟,反覆調用模型、使用工具、執行代碼,並根據反饋調整行動。這不僅可能帶來更多Token消耗,也讓CPU需要承擔更多模型推理之外的工作。據英特爾市場營銷集團副總裁、中國區總經理郭威觀察,今年上半年行業仍在以1:8、1:4等比例討論CPU與GPU的配置關係;進入下半年,業界對CPU需求繼續增長的預期愈發明顯,甚至有人提出未來可能向1:1演進。

在服務器CPU產品佈局上,英特爾早在2023年就明確了性能核(P-core)與能效核(E-core)雙線並行的方向,以滿足不同工作負載對計算性能、核心密度和能效的需求。其中,性能核側重計算性能,適合對單核性能要求較高的工作負載;能效核則強調核心密度和能效,更適合大規模並行、高吞吐量的計算任務。今年6月,英特爾推出採用Intel 18A製程的至強6+處理器(代號Clearwater Forest)。該處理器最高集成288個能效核,支持12條內存通道,DDR5最高傳輸速率達到8000MT/s。英特爾還披露,單顆至強6+處理器最高可支持超過1000個智能體穩定運行。

不過,CPU核心數量增加、內存傳輸速度提高,並不意味著服務器就能同比例承載更多智能體。英特爾技術專家在分析智能體運行負載時發現,CPU使用呈現明顯的突發性——智能體在啟動執行環境、執行任務時,會產生短時的計算需求高峰,但從單個Agent的運行過程來看,CPU整體利用率總體並不高。與之形成對比的是內存。英特爾專家同時指出,即使智能體暫時沒有計算任務,其運行狀態仍可能持續佔用內存。

其在現場算了一筆賬:假設每個Agent分配2GB內存,一份vCPU資源運行4個Agent,就需要8GB內存;而在一顆256核CPU、12條內存通道、每通道配置128GB內存的示例中,平均每個vCPU對應的物理內存容量只有6GB。這意味著,當雲廠商希望通過資源複用提高智能體部署密度時,內存容量可能比CPU計算能力更早成為限制因素。因此英特爾與騰訊雲還將此次基於至強6+的合作進一步延伸至操作系統內核、資源調度和內存管理等環節,嘗試將硬件能力轉化為實際業務中的性能提升。內存要省下來,沙箱也要起得快TrendForce集邦諮詢數據顯示,2026年第二季度服務器DRAM平均合約價環比上漲53%—58%。

儘管漲勢有所放緩,該機構仍預計第三季度價格將繼續上漲13%—18%。面對持續增加的採購成本,對於希望在一臺服務器上運行更多Agent任務的雲廠商而言,想辦法讓現有內存容納更多數據迫在眉睫。將暫時不需要頻繁訪問的內存數據壓縮存放、等到需要時再解壓使用,是提高服務器內存利用率的關鍵路徑之一。但這帶來的新問題是,在節省空間的同時,壓縮和解壓同樣需要消耗計算與內存訪問資源,尤其在大量任務同時請求解壓縮時,額外的時延可能拖慢業務響應。騰訊雲TencentOS Server產品研發團隊就曾嘗試利用LZ4軟件方案進行內存壓縮,但發現多路併發解壓縮的最大時延長達5毫秒,無法滿足實際業務需求。

為解決這一問題,騰訊雲轉向英特爾至強CPU內置的IAA(內存分析加速器),通過專用硬件執行壓縮和解壓縮任務,減少對CPU計算資源的佔用,並改善處理時延。在此基礎上,騰訊雲團隊還對IAA驅動進行了適配,簡化不必要的調用路徑,並測試了多種批量並行配置,最終選擇IAA-batch-8方案。測試結果顯示,IAA的優勢不僅在於縮短解壓縮時間,還體現在高併發下的穩定性。當併發規模從32路增加至256路,LZ4軟件方案的解壓縮時延隨之上升,而IAA-batch-8的時延基本保持穩定。

在更接近實際業務的綜合壓力測試中,針對2MB內存大頁的解壓縮,相較軟件方案,IAA的平均時延和最大時延分別改善約16倍和9倍,且都處於微秒級別。除了內存資源外,沙箱創建效率也是影響智能體高密度部署、高併發執行的重要因素。所謂沙箱(Sandbox),就是為智能體執行代碼、調用工具提供的隔離環境,避免不同任務相互干擾。騰訊雲CubeSandbox團隊指出,在部分大模型強化學習場景中,一輪訓練可能需要啟動成千上萬甚至數十萬個沙箱,用於模型評測和推理。如何在短時間內完成大量執行環境的創建,同時控制資源佔用,就成了雲廠商需要解決的問題。

然而,不同的隔離技術各有侷限:傳統容器啟動較快,但通常共享服務器的操作系統內核;完整虛擬機擁有獨立內核,卻需要佔用更多資源。因此,騰訊雲CubeSandbox採用微型虛擬機(MicroVM)、快照和資源複用等技術,使多個沙箱能夠共享相同的基礎資源,僅對發生變化的部分進行獨立存儲,從而減少重複的內存佔用。在此基礎上,英特爾工程師還針對沙箱創建過程中涉及的部分操作系統內核執行路徑進行優化,並將相關改進引入騰訊等企業共同發起的開源操作系統OpenCloudOS內核,進一步降低大量沙箱併發啟動時的時延。

現場披露的測試數據顯示,在滿足200毫秒服務等級目標(SLA)的條件下,搭載至強6+處理器的服務器在運行CubeSandbox時,單機可支持350個沙箱併發創建請求,較其他主流測試平臺提升約46%。更值得關注的是負載疊加後的表現。騰訊雲實測發現,即便服務器同時承載其他任務、整體負載上升,至強6+仍保持相對穩定的沙箱併發創建能力。不過,英特爾並不認為現有產品已經能夠完全滿足智能體的運行需求。英特爾技術專家在現場表示,智能體應用與軟硬件生態之間仍有進一步優化的空間,團隊基本每週都會將與合作伙伴開展實際負載優化時積累的經驗反饋給後端CPU設計團隊,為後續產品的改進提供參考。

雙方的合作也將延續至下一代產品。據騰訊雲高級產品經理夏士悅透露,騰訊雲計劃繼續與英特爾合作開發基於下一代至強處理器Diamond Rapids的雲服務器實例。按照英特爾此前公佈的產品規劃,Diamond Rapids將採用Intel 18A-P製程,最高集成256個CPU核心,支持16通道內存和128條PCIe 6.0通道,並引入高級性能擴展(APX)及增強型高級矩陣擴展(AMX)等技術。

Related

相關文章

智東西生成式AI

英特爾與騰訊發佈基於至強6+的雲實例,曬智能體AI基礎設施全家桶

作者 | ZeR0 編輯 | 漠影 11月3日報道,近日,在2026騰訊全球數字生態大會上,英特爾與騰訊雲發佈基於英特爾至強6+處理器的騰訊雲新一代雲實例,並全面展示英特爾的芯片產品與雲端實踐。 全新至強6+處理器擁有最高288顆能效核,單顆處理器最高可支持超過1000個智能體的穩定部署,這也為騰訊雲服務器提供更高併發、更低時延、更優能效的雲端算力服務。

3 小時前
雷峰網生成式AI

智元榮獲2026世界互聯網大會傑出貢獻獎

11月3日,2026年世界互聯網大會烏鎮峰會在浙江烏鎮隆重開幕,國務院總理李強出席開幕式並發表主旨演講。開幕式上,智元憑藉在具身智能領域的系統性技術突破與產業化實踐,獲頒世界互聯網大會傑出貢獻獎。智元合夥人、高級副總裁朱潔在領獎時表示:人工智能的終局,不在於屏幕與雲端,而紮根於工廠一線和尋常煙火。具身智能賽道的競爭,早已跳出單點技術的競速,轉向軟硬協同、工程化落地、產業組織與治理體系的綜合比拼。智元期待與各界同心同行,堅守務實,躬身落地。

3 小時前

電動車退燒、AI 儲能燒起來:LG 新能源把產能挪向數據中心

11 月 3 日,首席財務官李昌植在財報電話會上給出時間表:今年底軟包儲能系統(ESS)產能將超 50 吉瓦時,明年進一步拉到 70 GWh 以上。在他看來,電動車增速放緩之際,AI 數據中心的大規模新建為電池廠撕開了新口子——第三季度 ESS 在手訂單已達 160 GWh,公司正與電力企業、超大型數據中心運營商談新項目,今年 9 月還作為儲能供應商擠進了英偉達的 DSX Ready 計劃。

3 小時前4700

聯合國副秘書長點贊!千問AI耳夾式耳機亮相烏鎮互聯網大會

他認為,產品非常實用,適合自己日常工作中需要使用多國語言進行交流的場景。面對面交流時,用戶可以通過耳機收聽譯文;會議中的討論內容,也能通過AI聽記整理為結構化紀要,方便會後回顧。連接千問App後,用戶還可通過語音交辦資料研究等任務、接收完成提醒,讓耳機成為日常辦公的隨身助手。

4 小時前
雷峰網生成式AI

要更真實,還是更動人?AI視頻生成走到了分岔口 | CNCC 2026

從5大視角,看AI視頻的挑戰與風險在哪。 作者丨徐曉飛 編輯丨劉 偉 當下,視頻生成的競爭焦點,正在從“像不像”轉移到“能不能用”。畫質、分辨率、單段時長這些指標,正被不同研究團隊加速填平。當畫面本身的差距收斂,剩下的落差就集中在了更難量化的地方,比如敘事是否連貫,情感是否到位,AI內容進入真實傳播鏈路之後會引發什麼。這正是 10 月 23 日下午,CNCC 2026大會“視頻生成的智與情”主題論壇嘗試討論的問題。南開大學教授楊巨峰,是這場主題論壇的召集人。據他介紹,這個題目實際上有更早的源頭。

5 小時前