NPU不夠，誠恆微為什麼還給端側AI芯片加了GPGPU？

如果只看今天端側AI芯片的熱門敘事，NPU幾乎是繞不開的主角。大模型從雲端向手機、PC、機器人等終端下沉，芯片廠商不斷刷新TOPS，圍繞Transformer、增加專用加速能力。一顆新的端側AI芯片，似乎應該儘可能把有限的晶體管留給NPU。誠恆微卻在首款旗艦SoC上做了一個不同的選擇。近期在無錫舉行的CH37系列邊端側AI SoC產品發佈會上，誠恆微正式發佈CH3715。

除了48 TOPS INT8的六核NPU，CH375還集成了10核CPU（含4大4小主核及2個R8實時控制核，R8核頻率達800MHz）、自研渲染GPU（358 GFLOPS）、六核NPU（48 TOPS INT8/24 TOPS FP16）、四核GPGPU（1 TFLOPS FP32，兼容CUDA生態）、雙核DSP及自研FFT硬件加速器。為什麼一顆端側AI芯片，需要同時擁有NPU和GPGPU？誠恆微CEO楚立斌誠恆微CEO楚立斌對表示，“CH3715的產品定義其實始於2022年。

彼時ChatGPT尚未發佈，具身智能也沒有成為芯片行業追逐的熱點，我們首先看到的是機器視覺、雷達、工業設備裡一些長期沒有被單顆芯片很好滿足的需求：既需要AI算力，也需要高精度計算、圖像處理和低時延，客戶往往只能通過多顆芯片組成一套系統。“因此，誠恆微第一代旗艦AI SoC的目標，就是儘可能把這些分散的計算能力集成到一顆SoC裡。NPU負責AI，但真實世界還需要GPGPU2022年定義CH3715時，誠恆微首先盯上的是智能視覺。在一些高清圖像、大範圍目標識別場景中，客戶不僅需要更高的AI推理算力，還要求更強的圖像處理能力、更低的端到端時延，以及可見光、紅外等多種傳感器數據的處理能力。

雙光、高清和低時延成為CH3715最早確定的幾個產品目標，NPU算力最終被定在48 TOPS。NPU擅長神經網絡推理，但真實設備還要處理大量傳統計算。例如複雜視覺環境中的一些算法需要更高精度的浮點計算；雷達需要FFT和信號處理；機器人除了識別環境，還涉及幾何計算和實時控制。這也是CH3715最終同時加入NPU和GPGPU的直接原因。在部分複雜場景中，只用INT8精度並不能覆蓋全部算法，仍然需要GPGPU提供更高精度的浮點計算能力，而GPGPU的價值更在於其靈活性和較低的遷移成本。

因此在CH3715中，NPU承擔神經網絡推理，GPGPU負責高精度、可編程並行計算，DSP處理信號計算，ISP負責圖像輸入，CPU則承擔任務調度和系統控制。誠恆微將這套思路概括為“異構計算，一體架構”。這代表的是端側AI真正面對的不是一種計算任務，而是一組同時存在的異構計算負載。如果這些計算仍然由不同芯片完成，數據需要不斷跨芯片搬運，不僅增加帶寬、功耗和時延，不同平臺獨立的軟件和工具鏈也會增加系統集成成本。CH3715想做的並不是簡單增加幾個計算單元，而是把原本分散在一塊主板上的異構計算能力盡可能集成到同一顆SoC。一顆芯片，替掉原來的多芯片組合，這也是CH3715的一個明顯特點——高集成度。

除了NPU和GPGPU，CH3715還集成CPU、DSP、FFT、VPU、雙ISP等多種處理單元，並提供PCIe 4.0、萬兆以太網等高速接口。楚立斌表示，“誠恆微第一代產品並不是瞄準那些一顆普通SoC已經能夠很好解決的需求，而是優先尋找原本就需要多芯片組合的場景，希望用一顆芯片替掉過去兩三顆芯片才能完成的工作。“例如在部分機器視覺場景中，單顆SoC無法同時滿足AI算力和圖像處理需求，客戶需要增加額外的AI計算芯片；一些對實時信號處理要求較高的行業，則長期採用DSP與FPGA等組合。芯片數量增加以後，供電、存儲、外圍電路都會變得更加複雜，PCB面積和功耗上升，數據跨芯片傳輸也會進一步影響時延。

楚立斌認為，CH3715的商業價值不能簡單比較單顆芯片售價，更重要的是計算整套方案的成本——原來需要多少顆芯片、多少外圍器件，以及軟件開發和系統適配需要投入多少成本。這一邏輯在一些既有算法資產較重的客戶身上更加明顯。部分客戶長期積累了運行在DSP和FPGA上的算法，傳統方案增加新的AI能力並不容易。楚立斌透露，“誠恆微已經幫助部分客戶遷移過去多年積累的算法，在一些項目中，一到兩個月可以完成主要遷移工作，讓傳統高精度計算和AI推理運行在同一套平臺上。

“誠恆微副總經理、CTO林蒼松誠恆微副總經理、CTO林蒼松在發佈上分享，通過多個視覺處理模塊單芯片集成，系統數據吞吐效率可提升50%以上，功耗降低30%，整機體積縮減40%。這些數據仍需要在更多真實應用中驗證，但至少解釋了CH3715選擇高集成度不是目的，目標是用一顆芯片簡化原有系統。第一代產品同時也是對團隊工程能力的一次驗證。誠恆微成立於2023年，核心研發團隊擁有多款芯片設計和量產經驗，但成員背景不同。楚立斌透露，“CH3715真正用於設計的時間大約一年半，通過這樣一顆複雜SoC，團隊也完成了從產品定義、架構設計到前後端和軟件的一次完整磨合。

”第一代產品的高集成並不意味著誠恆微未來的芯片會不斷增加計算單元。第一代做加法，下一代開始做減法同時做專項增強隨著CH3715開始導入客戶，哪些模塊使用頻率最高、哪些場景能夠形成規模、哪些能力真正值得保留，會逐漸變得清楚。楚立斌透露，“下一代產品會做減法，同時重點改善內存帶寬，但AI算力不會因此下降。”誠恆微仍計劃把下一代芯片的AI算力推向更高水平，同時明顯縮小芯片面積，目標成本約為第一代的一半。在楚立斌看來，“10—20 TOPS左右的端側芯片市場已經相當擁擠。隨著端側模型越來越複雜，以及工藝升級改善能效，未來更多端側和邊緣設備將需要更大算力的芯片支撐。”另一個變化來自AI需求的變化。

定義CH3715時，具身智能還沒有成為顯著需求。幾年之後，機器人對於LLM、VLM、VLA等大模型的需求迅速增加，這也為下一代產品的演進提供了清晰的方向。誠恆微下一代產品會更加關注具身智能方向，但仍以機器視覺作為主線。視覺處理本身也會從傳統小模型逐漸向VLM、VLA、LLM演進，並進一步延伸到機器人感知、決策和執行。楚立斌指出，目前大量工業機械臂仍按照固定程序運行，未來隨著視覺感知、自主執行和算法能力提升，同樣會需要更強的本地計算。具身智能的各類終端對芯片的需求本質上是趨同的——多路視覺接入、端側AI推理、實時控制與低延遲響應。從工業質檢、智能視覺到具身智能，誠恆微希望形成一條連續的產品路線。

第一代首先解決“哪些能力需要集成到一顆芯片裡”，下一代則進一步回答“有限的芯片面積應該優先留給哪些能力”。第一代產品推向市場之後，誠恆微還要面對另一個現實問題：一家剛推出第一代芯片的公司，如何讓客戶願意遷移？如何降低客戶換芯片的成本？對於已經形成穩定產品的軟件和方案公司而言，更換底層芯片意味著重新適配驅動、算法、工具鏈乃至整個系統。即使新芯片參數更高，如果遷移週期和工程風險過大，客戶依然可能繼續使用原有平臺。生態不可能一蹴而就。因此，誠恆微沒有把第一階段目標設定為迅速建立覆蓋所有開發者的通用生態，而是優先降低客戶切換平臺的門檻。一個直接方法就是API兼容。

楚立斌表示，“誠恆微在設計SDK時，會在API層儘可能兼容客戶已經熟悉的主流端側SoC平臺，降低既有代碼和算法的遷移成本。”這背後的考慮很現實：成熟端側SoC平臺已經用了十幾年甚至更長時間積累客戶、軟件和合作夥伴，一家新的芯片公司不可能在幾年內重新複製一遍。誠恆微的市場策略也和其生態策略一樣明確。誠恆微會優先進入電力巡檢、軌交、工業質檢等垂直行業，用更貼近客戶的工程服務換取早期客戶，再把項目中形成的能力逐步固化進軟件平臺。同樣的邏輯，也解釋了為什麼誠恆微現階段會主動做模組和盒子。發佈會上，誠恆微展示了圍繞CH37系列的工控主板、行業邊緣計算盒子等產品。

如果只把裸芯片交給客戶，客戶仍然需要完成核心板、軟件和系統設計，新平臺的導入週期會進一步拉長。“第一代產品，我們需要先把模組甚至終端做出來，讓客戶能夠更快看到完整方案跑起來，這也是建立市場信任的一種方式。”楚立斌說，“隨著解決方案商、渠道和合作夥伴逐漸成熟，誠恆微計劃逐漸把這些市場交還給下游合作伙伴，長期大部分收入仍然來自芯片。”端側市場競爭更加分散，芯片公司需要給方案商和合作夥伴留下足夠的利潤空間。對誠恆微而言，第一代產品階段自己做模組、板卡和盒子，更像解決新品“從能用到有人用”的一段過渡路徑。

從最初的產品定義，到2026年CH3715正式發佈，誠恆微第一顆芯片回答的是一個看起來簡單、實際複雜的問題：端側AI芯片究竟需要什麼？如果只看AI模型，答案可能是一顆越來越大的NPU。但走進機器視覺、雷達、工業設備和機器人這些真實場景，NPU之外依然存在大量高精度計算、信號處理、圖像處理和實時控制任務。這也是誠恆微最終選擇NPU+GPGPU，並把多種計算單元集成進一顆SoC的原因。而CH3715之後更值得觀察的問題，已經從“還能塞進多少計算單元”，變成了：經過第一代產品的市場驗證之後，誠恆微最終會留下什麼，又會砍掉什麼。對端側AI芯片而言，做出更多功能並不是最難的事情。

如何在真實場景中找到最值得留下的那部分計算能力才是產品定義真正開始成熟的標誌。