對話高通數據中心業務總經理：從定製CPU到3D堆疊HBC，高通下出端雲AI一盤棋

作者 | ZeR0 編輯 | 漠影 夏威夷毛伊島9月22日現場報道，在驍龍峰會2026上，高通一口氣推出兩款2nm旗艦芯片——第六代驍龍8超級至尊版和第六代驍龍8至尊版。（詳情參見《剛剛，高通2nm雙旗艦來了，為智能體AI重造架構，手機能跑300億參數大模型》） 會後，高通技術公司執行副總裁兼技術規劃、邊緣解決方案和數據中心業務總經理馬德嘉Durga Malladi與等媒體進行交流，涉及話題包括高通為何重歸數據中心CPU市場、3D堆疊與高帶寬計算（HBC）、定製CPU和高主頻CPU的好處、如何構建AI軟件棧、高通AI SoC的獨特競爭力、與中國AI公司的合作情況等。

經整理，重點信息如下： 1、高通進入數據中心CPU市場有什麼優勢？在驍龍峰會2023上，高通首次介紹用於PC平臺的定製Oryon CPU。當時，與行業裡的其他產品相比，它帶來了非常顯著的性能提升。此後，高通一直將Oryon CPU核心擴展到產品組合中的其他領域。去年高通重新進入數據中心市場時，決定把Oryon CPU也帶到數據中心。高通認為，無論從性能還是性能效率來看，它都非常出色，相比目前行業裡的其他方案也極具競爭力。2、怎麼看到將內存和計算單元3D堆疊的技術路線？高通是這項技術的先行者之一。去年高通首次談到要把近存計算引入其平臺，幾個月前宣佈將這項技術命名為HBC。

這是一種新的存儲與計算融合架構，基本思路是採用分離式3D堆疊技術，將計算單元與LPDDR DRAM Die堆疊，可以理解成在一個“內存立方體”的正下方放置計算單元，同時還會集成很多其他功能。高通此前已經宣佈，其第一代和第二代HBC產品將分別搭載於AI250和AI300數據中心AI芯片。今天高通總裁兼CEO安蒙宣佈，這項技術不會只應用於數據中心，高通也會把它帶到終端設備上。3、自研Oryon CPU對高通AI戰略意味著什麼？高通擁有Arm架構授權，所以能在微架構層面進行創新，並進行自己的定製化修改。

定製CPU構成了高通的一項差異化能力，已幫助高通打造出了非常有競爭力的產品，高通會繼續在這個領域投資。過去CPU主要被用於通用計算，或者作為系統中的機頭。隨著智能體AI興起，CPU正在成為智能體AI的關鍵計算基礎之一，因為CPU需要承擔大量工作，負責協調和編排整個系統，決定接下來應該做什麼。因此，在智能體AI時代，CPU的作用正在變得更加重要。高通認為自己的定製CPU核心對於未來發展會非常重要。4、高主頻CPU在智能體AI工作流中能發揮什麼作用？高通在移動平臺上率先突破5GHz門檻，反映了其持續在自研Oryon CPU核心上的投入。隨著智能體AI的發展，CPU的重要性正在越來越高。

它發揮作用的地方會從終端設備一直延伸到數據中心。5、高通準備如何應對英偉達CUDA生態層面的競爭？CUDA是英偉達的編程平臺。在CUDA之上還有Dynamo推理服務框架，涉及很多其他編譯器和軟件組件。幾個月前，高通完成了對AI軟件基礎設施公司Modular的收購。Modular提供的是一個更加開放的開源平臺，它的編程語言叫作Mojo。高通上個月已經宣佈，Mojo將採用Apache 2.0許可證完全開源，而且它能夠運行在任何第三方平臺上。類似地，高通還有AI推理框架MAX，它處於編譯器/軟件棧這一層，大部分也會開源，其中一部分會採用授權模式，但任何人都可以使用它。

高通正在大力投資這種開放式軟件棧框架，因為行業需要這樣的開放架構，AMD作為合作伙伴也表達了對高通的支持。高通希望Modular軟件棧未來部署時可以運行在多種硬件上，而不會侷限於某一種硬件平臺，會保持開放性。6、怎麼看AI導致消費電子漲價帶來的挑戰與機遇？消費電子本身就是一個具有周期性的行業，價格會漲，也會跌。不認為消費電子產品漲價是AI直接造成的，有多個因素共同作用。一方面，AI技術正在讓終端設備變得越來越強大；另一方面，整個行業存在一定程度的供應和內存短缺。整個生態系統裡的所有因素並不都由高通控制，高通能控制的是把強大的AI技術帶進終端設備。

同時，高通也在努力大幅提高設備的效率，包括設備內部如何更高效地使用計算資源和內存資源。7、如何為不同設備的個人上下文策略提供一致體驗？個人上下文會根據消費者的行為、使用模式等信息，逐步在設備內構建。高通現在所做的一件事情，就是確保消費者無論使用哪一臺設備，只要它是由驍龍平臺驅動的，用戶的上下文都能跟隨用戶在不同設備之間流轉，從而獲得統一、一致的體驗。要實現這一點，高通必須與合作伙伴以及雲服務合作伙伴共同協作，這是高通正在推進的方向。8、怎麼應對不同品牌的用戶個人數據管理方式不同？高通能夠了解消費者具體需要和想要什麼，並保存這些用戶偏好。

隨著個人知識圖譜不斷擴展，高通可以採用合適的方法對這些信息進行壓縮，從而控制知識圖譜的規模，確保能夠在設備端建立一個非常高效的知識圖譜。長期記憶意味著有些上下文信息需要在更長的時間尺度上被保留下來。最終發展到某一階段後，其中一部分上下文可能也需要存到雲端。高通正在研究究竟什麼樣的方式才是最合適的方案。9、端側AI模型能用什麼標準來衡量？關鍵並不只是模型有多大，真正重要的是模型質量和各項指標、能否在智能體AI場景下把任務做好。比如高通今天展示的在手機上跑300億參數級模型，通常你不會在終端上看到這麼大的模型，但這個複雜模型對智能體AI使用場景很有幫助。

智能體不一定只用設備本地運行的模型，可能還會調用雲端進行一部分推理，同時還會進行聯網調用以及其他函數調用，以確保能夠獲得完成任務所需的全部相關信息。在衡量模型質量方面，業界有一些成熟的基準測試。對於智能體工作流，現在也開始出現一些新的基準測試。高通會採用行業已存在的標準指標來評估，不會另外定義一套評價體系。10、高通在AI芯片競爭中有什麼核心優勢？當你考慮一款真正優秀的AI SoC或是一款能非常好地運行智能體AI的SoC到底需要什麼時，你會發現，僅僅擁有最好的GPU、最好的NPU或最好的CPU都不夠，而是需要這三者都非常優秀。除了計算能力外，你還需要在如何充分利用內存帶寬方面擁有豐富經驗。

這也是高通一直在內存等領域進行投入的原因。此外，把所有這些東西整合到一起，需要合適的封裝技術，以及各種外圍組件和傳感器。因為傳感器中樞能夠幫助你構建一種全新的個人上下文。歸根結底，高通的投入並不集中在某一個單獨領域，其投資和研發覆蓋了整個技術體系。完整的IP組合能力將成為高通未來的一個獨特差異化優勢。11、目前最大的技術挑戰是什麼？製程技術、計算能力和內存都是，很難只選一個。12、高通如何與階躍等中國AI公司合作？高通在中國擁有非常大的業務和團隊規模，與中國初創企業保持良好關係，相關合作覆蓋很多不同的技術領域，原因是AI領域正出現大量創新，而高通非常喜歡和有創新能力的合作伙伴共事。

今天高通的演示就有兩個例子，一個是阿里原生智能體電腦Qwen Book，另一個是在手機端運行30B混合專家（MoE）模型。這個MoE模型最初來自阿里Qwen 30B，階躍對它進行了一些微調，研發出StepEdgeOmni 300億參數MoE模型，然後他們和兩三家合作伙伴一起做出整個端側智能體demo。高通一直關注哪些合作伙伴值得一起向前發展，對各種商業合作保持開放。13、近幾年什麼變化使AI真正能帶給消費者不同體驗？從ChatGPT發佈至今，AI模型本身的能力成熟和強大了很多。今天的模型和2023年的模型已經完全不在一個水平上。

這意味著，基於這些模型構建智能體AI應用時，能夠實現的用例也得到了顯著提升。因此，雖然從2023年開始，行業裡就已經有很多關於“我們應該開發哪些AI使用場景”的想法，但當時模型還沒成熟到足以真正支撐這些體驗的程度，現在以消費者為中心的應用場景已經很複雜和成熟。14、實現高通未來核心收入目標，具體如何分配？在今年6月舉行的投資者日上，高通宣佈核心財務目標：到2027財年結束時達到50億美元，到2029財年結束時達到150億美元。高通對實現這些目標非常有信心，已公佈了一些客戶合作，但現階段不會披露不同客戶的具體收入分佈情況。