高通徐晧亮相WAIC端側AI論壇：從智能體需求出發，持續推動計算架構創新

日前於上海舉行的世界人工智慧大會（WAIC）上，高通副總裁徐晧在端側AI論壇發表專題演講，全面闡述從智能體（AI Agent）實際需求出發，高通正持續推動計算架構的創新演進。他指出，隨著生成式AI與終端設備的深度結合，端側智慧體不僅需要高效率的推理能力，還必須兼顧功耗、延遲與隱私保護等關鍵因素，這對底層運算平台提出了全新的挑戰與要求。 生成式AI技術快速發展，使得手機、個人電腦、車載系統與物聯網設備開始承載愈來愈複雜的智慧應用。徐晧在演講中強調，未來終端上的AI應用不再只是單純的語音助手或影像識別，而是具備多重感知與自主決策能力的智能體。這些智能體需要在使用者發出指令的瞬間完成回應，同時保護個人資料不離開裝置，因此運算架構必須從根本上面對即時性與安全性的雙重考驗。 為了滿足這些高標準需求，高通透過異構計算架構的持續優化，讓晶片在中央處理器（CPU）、圖形處理器（GPU）與神經網路處理器（NPU）等不同運算單元之間動態調度任務。徐晧解釋，這並非單純提升單一加速單元的效能，而是從系統層面重新設計記憶體頻寬、任務排程機制與軟體堆疊，以確保在執行多模態AI應用時，各個模組能夠協同工作、達成最低延遲與最佳能耗表現。 在具體實現上，驍龍平台已整合專用AI引擎，並透過高通AI Hub提供最佳化的模型部署工具。開發者能夠利用這些工具，將複雜的生成式模型直接部署於終端裝置上運行，無需時時仰賴雲端伺服器。徐晧表示，唯有讓AI從雲端走向終端，才能真正實現即時性與個人化服務，這也是高通投入多年資源在端側AI生態的核心策略。 他進一步指出，過去被認為只能在雲端運行的百億參數級別大型語言模型，如今隨著模型壓縮與量化技術的成熟，已經能夠在手機晶片上流暢執行。這項突破不僅大幅降低了AI應用的部署門檻，也讓開發者能夠設計出更具隱私保護能力的智慧服務，因為使用者資料不需要上傳至雲端即可完成運算。 在此次論壇中，徐晧也分享了高通與多家合作夥伴在智慧終端裝置上的具體落地成果。這些應用包括支援大型語言模型的手機助理、即時語音翻譯功能，以及電腦視覺相關應用。這些案例展現了端側AI在實際場景中的可行性與價值，也證明高通的計算架構能夠應對從語音到影像等多種感知任務的需求。 從技術發展脈絡來看，高通所推動的異構運算創新並非一蹴可幾。徐晧強調，智能體的運作需要同時處理語音、文字、影像等多種輸入，並在極短時間內做出決策，這對記憶體頻寬與運算排程提出了嚴苛要求。高通因此從系統層級著手，重新設計軟硬體協作方式，讓各運算單元之間的通訊更加高效，避免資源浪費與延遲瓶頸。 除了硬體架構的升級，軟體生態也是高通布局端側AI的重要一環。透過AI Hub，開發者可以快速找到針對不同模型的最佳化部署方案，減少調校時間，加速產品上市。徐晧認為，隨著開發工具鏈的成熟，未來將有更多創新應用在終端裝置上湧現，從而帶動整個AI產業從雲端中心轉向邊緣運算。 展望未來，徐晧表示高通將持續從智能體的實際使用情境出發，推動異構運算架構的進一步創新。無論是更高效的模型壓縮技術、更靈活的任務調度機制，還是更完善的開發者生態，都是高通下一階段投入的重點。他相信，當AI真正融入每一個終端裝置，使用者將能享受到前所未有的即時、個人化且安全的智慧體驗。