對話雲天勵飛董事長陳寧：推理就是生產力，2030年將實現“百億Token一分錢”

雲天勵飛董事長陳寧近日在一場公開對話中拋出「推理就是生產力」的觀點，並大膽預測到2030年，AI推理成本將降至「百億Token一分錢」的水準。他認為，隨著大規模語言模型與多模態技術快速演進，推理能力不再只是學術指標，而是直接轉化為商業與社會價值；當推理成本足夠低廉，更多應用場景將得以落地，從智慧城市、自動駕駛到工業製造都能受惠。 陳寧在對話中強調，當前AI產業的瓶頸並非模型參數規模，而是推理階段的效率與成本。他指出，許多企業在訓練出大規模模型後，卻因推理成本高昂而無法將模型實際部署到生產環境中，導致技術價值無法充分釋放。若能將推理成本大幅壓低，讓即時推理如同水電般隨取隨用，將徹底改變AI服務的商業模式，使大規模即時推理成為基礎設施般的存在。 針對這項預測，陳寧進一步說明，雲天勵飛正持續投入邊緣AI晶片與演算法優化，目標是讓終端裝置也能具備高效的推理能力，而非僅依賴雲端算力。他認為，未來AI運算不應全部集中在雲端，邊緣端裝置若能承擔更多推理任務，不僅能降低延遲，還能保護資料隱私，並減少對大型雲端資料中心的依賴。這項布局背後，是雲天勵飛在自研神經網路處理器（NPU）與模型壓縮技術上的長期積累，他們希望透過軟硬體協同設計，降低對昂貴GPU的依賴，進而實現更普惠的AI運算。 陳寧的談話也呼應業界對「推理經濟」的關注。他預言，在2030年前，若每百億Token的推理成本能壓縮到一分錢人民幣，將徹底改變AI服務的商業模式。屆時，智慧城市中的交通監控、安防系統、自動駕駛車輛的即時決策，甚至是工業製造中的品質檢測與預測維護，都能以極低成本獲得高品質的AI推理能力。這不僅會加速AI在各行各業的滲透，也將催生新的商業模式與服務生態。 雲天勵飛在邊緣AI領域的布局已有多年經驗。陳寧透露，公司團隊在NPU設計上持續迭代，從第一代晶片到最新產品，每瓦效能已提升數倍。同時，他們在模型壓縮、量化、剪枝等技術上也有突破，能將大型模型縮小到可在邊緣裝置上運行的規模，同時維持推理精準度。這些技術的結合，使得雲天勵飛能夠在功耗、成本與效能之間取得平衡，為客戶提供更實惠的AI解決方案。 陳寧也提到，推理成本的下降不僅是技術問題，也涉及產業鏈的協作。他認為，從晶片設計、演算法優化到系統整合，每一個環節都需要共同努力。尤其當推理成本降低到「百億Token一分錢」的水準時，AI服務將從「高價奢侈品」轉變為「平民消費品」，屆時許多過去因成本過高而無法實現的應用場景，都將有機會大規模商轉。 對於外界關心的時間表，陳寧展現出相當的信心。他表示，過去十年AI晶片與演算法的進步速度遠超預期，從2010年代初期深度學習的興起，到如今大語言模型與多模態模型的爆發，技術曲線持續陡峭。若按照目前的趨勢，2030年達到「百億Token一分錢」的目標並非遙不可及。他鼓勵業界不要只關注模型參數的競賽，更應聚焦推理階段的效率革命，因為那才是真正能將AI帶入尋常百姓家的關鍵。 陳寧的觀點也引發了業界對推理市場的重新思考。過去，AI晶片與運算資源的競爭主要圍繞訓練階段，各家廠商比拼的是誰能訓練出更大、更準的模型。但隨著模型規模趨於穩定，越來越多專家開始意識到，推理階段的成本與效率才是決定AI能否廣泛落地的核心。雲天勵飛的策略正是瞄準這個缺口，透過自研NPU與軟硬體協同優化，試圖在推理市場中佔據領先地位。 在對話的最後，陳寧補充說，推理成本的大幅下降不僅有利於企業，也將惠及一般消費者。例如，智慧型手機、智慧家電、穿戴裝置等終端產品，若能內建高效的推理晶片，使用者就能在本地端完成語音辨識、影像分析、即時翻譯等任務，無需頻繁連線雲端。這不僅能提升使用體驗，也能降低對網路頻寬的依賴，進一步推動AI技術的普及。 陳寧的「百億Token一分錢」預測，為AI產業的發展方向提供了一個清晰的願景。隨著雲天勵飛在邊緣AI晶片與演算法優化上的持續投入，以及整個產業對推理經濟的重視，未來幾年內推理成本有望成為AI競爭的關鍵戰場。當推理成本真正降到如同水電一般低廉時，AI的生產力效應將全面爆發，從智慧城市到工業製造，從自動駕駛到醫療診斷，每一個行業都將迎來深度變革。