海量終端等待被AI重做,破局的關鍵到底在哪裡?
作者 | 陳駿達 編輯 | 漠影 過去幾年,AI的發展都集中在雲端:越來越多的參數,越來越強的模型,越來越費電的算力中心。如今一個更深層的變化正在發生:AI開始明顯地從雲端向終端設備擴散。機器人、自動駕駛汽車、智慧視覺設備等越來越多的終端正在擁有自己的AI能力。這一趨勢並不難理解,終端是AI抵達真實世界的關鍵入口:攝像頭、麥克風、傳感器就長在設備上,物理世界的數據由終端源源不斷產生。雲端的模型和算力再強,進不了終端,就無法觸及真實世界。可以說,AI競爭的下一個戰場,就在端側。在這個節點上,上海海思給出了一個鮮明的判斷:每個IoT終端都值得被重構成輕智能終端,成為AI的泛在入口。
通過端側AI與雲端協同,實現小算力大智慧。圍繞這個判斷,一套從戰略到執行的完整架構也隨之鋪開:一方面,憑藉全系列的端側芯片捕捉端側AI產業爆發的機會;另一方面,通過HiSpark開發者生態社區,加速構建一套面向端側AI的新一代開發者生態。一、端側已進入輕智能時代 一個常見的共識是:雲端大模型越來越強,下一階段AI的發展必然會走向真實的物理世界。而這過程中,必定會遇到幾個硬約束。首先是實時響應。以典型的雲端指令為例,常見的雲端語音指令一發一收最快也要1000毫秒左右的通信時長,正常交互問題不大,但時延壓力極大的高速決策場景根本無法容忍這樣的延遲。
再者是多模態感知:攝像頭、麥克風、傳感器就長在設備上,終端能夠持續、實時地獲取物理世界的數據,這是雲端拿不到的。最後,考慮到隱私保護與數據安全,數據和指令不出終端,天然規避了大量風險。因此,雲側與終端側需要深度協同,才能構建起完整的業務鏈路。端側能力越強,能夠採集和處理的數據越多,對雲端的需求也越高。雲端模型能力提升,又會進一步推動終端升級,兩者形成持續增強的協同關係。上海海思把這一終端演進趨勢定義為“輕智能”。所謂“輕”,是讓終端設備以較低的成本和功耗,一站式實現“有聯接、有智能、有感知、有交互”,改變過去AIoT終端缺乏真正“AI”的局面。
特別是端側AI能力的引入重新定義了終端產品,讓全新的“輕智能”終端,成為AI真正走進日常生活的最大載體,也是徹底激活AIoT行業的一把鑰匙。▲上海海思HiSpark開發者生態社區 這種變化最終會落到具體產品體驗上。我們嘗試設想一下,給智能牙刷裝上微型攝像頭和端側算力芯片,實現邊刷牙邊掃描牙齒,判斷哪裡需要重點清潔甚至就醫;吹風機也不再是固定冷熱檔位的功能型產品,而是能夠根據髮質、乾溼程度動態調節風溫和風速的完整智能產品。上海海思生態與夥伴發展部部長閃罡認為,輕智能終端不是創造一個全新的“物種”,而是讓消費者已經熟悉的傳統產品獲得全新的、斷代的智能能力。
二、算力易得、落地難為,生態支持成現實需求 然而,端側AI能不能跑起來,不能只看芯片算力。閃罡提出,端側AI面臨一個非常現實的困難:“算力易得,落地難為。”算力集成容易,硬件成本很低,但企業拿到算力之後,真正的考驗才剛剛開始。第一關,是“想不清”算力能幹什麼。這要求企業擁有深厚的行業Know-how,對本行業產品的功能場景和深層次用戶需求有充分的洞察和認知,要深刻地理解問題,又要合理地定義體驗,這個關卡就已經把大量企業擋在了門外。而即便想清楚了算力能幹什麼,第二關,還要想好模型如何落地。端側AI涉及一整套環環相扣的工程鏈條,對於大量中小企業而言,真正稀缺的並不是算力,而是把算力變成產品的能力。
在嵌入式開發中,開發者始終要在算力、功耗和成本之間尋找平衡:算力高了,功耗和發熱可能上升;功耗降下來,又可能犧牲性能,內存、功耗、算力、成本等方面都有嚴苛約束。軟件與模型側,如何把雲端訓練的模型通過量化、剪枝、壓縮等方式最終部署到端側設備上,又要如何針對不同芯片優化推理框架和底層算子,都是極為複雜的挑戰。這套軟硬件適配和算法研發的能力,過去更多掌握在擁有大規模研發團隊的大廠手中。而端側AI是一個天然碎片化的市場,其中有不少參與者都是中小企業、方案商和個人開發者,對他們而言,獨自打通全鏈條的成本難以承受。那麼,對於廣大開發者而言,路在何方?
AI編程的興起,似乎正為降低端側AI開發工程的門檻提供新的路徑啟示。邏輯上,開發者可以讓大模型生成代碼、調用工具,甚至輔助完成整個開發流程。但嵌入式開發面對的是具體芯片、具體硬件和具體工程環境,通用大模型並不能直接解決這些問題。它們可能不瞭解具體芯片的BSP、SDK和信號管腳,也難以及時掌握不斷更新的版本、接口和勘誤。更關鍵的是,嵌入式開發並不只是寫代碼。模型還必須理解算力、功耗、成本等硬件約束,生成的代碼即使邏輯正確,也可能因為內存、性能等問題無法真正上板;到了調試階段,還要接入日誌、邏輯分析儀、示波器等工具,形成完整的“人—模型—硬件”閉環。
這意味著,通用的AI編程可以降低一部分開發門檻,卻無法單獨補齊端側AI落地所需要的工程體系。如何讓大多數企業都能獲得打造端側AI產品的系統工程能力?這是輕智能浪潮中必須有人回答的問題,也是上海海思給自己立下的命題——畢竟,芯片再能算,海量開發者用不起來,也是枉然。要回答這個命題,靠芯片本身是不夠的。既然瓶頸在工程鏈條,競爭的主戰場就必然從單一的芯片或模型能力,延伸到工具鏈和開發生態,芯片廠商的角色也要隨之改變。過去,芯片廠商提供芯片、SDK和技術支持;如今,開發者需要的是從芯片、模型、工具鏈到Demo的全鏈條支持,廠商需要陪著開發者走完從算力到產品的全程,最終成為端側AI開發平臺的提供者。
▲HiSpark開發者生態社區網站 這也是上海海思正在推進的方向:以四大生態為基座,提供豐富的芯片的產品和方案,持續開放芯片、工具鏈、模型以及工程能力,做好硅基黑土地,讓更多的夥伴和開發者在這片肥沃的土地上,釋放創新潛能。HiSpark社區這一輪升級,也正是圍繞這一思路展開,從提供芯片和SDK,進一步向完整的端側AI開發生態延伸。
三、首創XDAS四維框架,面向AI把開發者生態重做一遍 上海海思可能是國內開發者可以觸及的芯片序列完整度和豐富度最高的原廠之一,這張底牌就是全系列、全檔位的芯片家族:感知、聯接、顯示、算力等芯片正逐步面向開發者深化開源開放,並以統一的算子庫、統一的工具鏈拉通不同芯片,讓開發者在不同算力檔位之間低成本遷移。這套統一還延伸到端雲之間:上海海思的端側平臺與CANN體系共架構,CANN是昇騰體系的全棧開發生態,端側芯片相當於把這套生態一直延伸到了最小的智能終端上。
隨著生態工作的不斷推進,從日前發佈的昇騰960到海思僅有1T算力的Hi3516CV610,未來都有望共用同一套算子庫、工具平臺、模型庫與推理框架。在芯片的底座之上,HiSpark社區首次提出了XDAS開發者生態四維框架,把生態能力系統性地歸納為四個維度:AI for Development(D)、AI for Application(A)、AI for Support(S)、EXperience for AI(X)。前三維解決“開發者怎麼用AI”,X解決的是“AI怎麼用社區”——當社區的服務對象從人擴展到AI,生態的基建本身也要重做一遍。
▲XDAS開發者生態四維框架 拆開來看,在AI for Development方面,上海海思正幫助開發者利用AI提升嵌入式開發效率。他們已經把SDK、接口文檔、參考工程、成功經驗全部結構化、向量化,建成實時刷新的專屬知識庫,再把芯片開發能力抽象成原子化的Skills集合釋放出來,通過MCP服務和CLI工具鏈接入真實開發環節。有了這些知識,生成代碼、編譯、燒錄到讀取日誌和儀器數據等環節都可以交給AI自動迭代,人只負責開頭提需求和結尾驗收。
上海海思首批打造的五大領域Skills已完全開放到HiSpark社區,實驗室實測效率提升約76%,過往需要1個工程師2周左右的工作量,現在藉助AI Skills,在1天內即可搞定。▲AI輔助嵌入式開發 面向AI for Application,也就是應用落地,上海海思創新性地提出了“五步法”的解題思路,幫助開發者實現從想法到產品的臨門一腳。HiSpark社區把應用落地拆解為“案例→算法→數據→訓練→部署”五個環節,針對性提供支撐。旅程第一步從案例中心開始,開發者可以學習既有案例、閱讀開發指南,獲得開發靈感。
有了想法,就可以前往HiSpark的模式與算法市場匹配需求,這裡提供大量開源算法與模型,目前Hi3403芯片已開放15個品類、70多個開源算法,年出貨過億的Hi3516CV610未來三個月也將開放40多個算法。接下來進入訓練與部署環節,HiSpark社區提供了模型量化剪枝、壓縮轉換等工具,今年年底還將上線在線訓練平臺,小團隊不用再自建訓練服務器,上傳數據即可拿到模型。五步法鋪平了從想法到產品的路,但開發者真正動手時,仍會在無數具體問題上卡住。如何讓技術支持快起來、準起來?這正是XDAS框架中“AI for Support(S)”所要解決的問題。
隨著端側AI開發生態不斷豐富,傳統人工FAE要處理的問題越來越多,往往無法以最快速度響應。而上海海思內部統計發現,開發者遇到的85%以上的問題,其實都是前人解決過的重複性問題。因此,HiSpark社區近期正式開啟數字FAE公測,提供7×24小時服務,覆蓋芯片選型、技術指導、資料檢索、根因分析與解決方案等場景,還能通過MCP接入開發者自己的IDE;遇到AI無法解決的問題,系統會自動整理對話並轉給真人FAE。上海海思特別強調,數字FAE不是普通智能客服:開發者更看重準確性和效率,一個錯誤的硬件能力判斷可能帶來高昂的試錯成本,因此係統寧可不答,也不能亂答,背後依靠的是嚴格圈定的知識體系和持續勘誤。
而當開發者開始越來越多地使用AI,一個新的問題浮出水面:社區本身,對AI友好嗎?這對應的是XDAS框架的最後一維——EXperience for AI(X)。HiSpark社區數據顯示,Markdown格式文檔的申請量已經超過半數,其中接近70%來自智能體,社區服務對象正在從“人”逐漸轉向“AI”。為此,HiSpark社區一方面要求文檔、SDK、接口和工程參考做到“人可讀、AI亦可讀”,另一方面開放接口,讓開發者可以直接在自己的Agent中調用社區能力,同時通過數據治理保證信息準確、乾淨和實時更新,避免錯誤知識被AI反覆傳播。上述四個維度的重構,正在帶來看得見的改變。
截至2026年9月,HiSpark社區下載量較去年提升10倍,UV提升8倍,但上海海思對社區的建設目標,並不以開發者數量或日活為核心,而更看重社區健康度、產品體驗和夥伴能否真正成功。閃罡強調,社區的價值不是“獲取開發者”,而是“服務和支持開發者”。未來,社區甚至不必以一個獨立網站存在,數字FAE、MCP服務和開發能力可以直接進入IDE、Agent等開發環境,這或許才是端側AI生態,真正融入開發流程的狀態。結語:給端側AI,修一條人人可走的路 輕智能時代已至,這一點正在產業內形成共鳴。從傳統安防到智能家居,從消費電子到工業製造,大量從業者在這一輪浪潮中重新看到了機會。
中國擁有全球最豐富的終端品類和最活躍的開發力量,千千萬萬中小企業正是這一市場最廣泛的參與者。過去,智能化升級往往意味著高門檻、高投入,只有頭部企業玩得起;而當生態把門檻一層層壓低,讓一個小團隊也能做出AI產品,技術的紅利才真正開始流向千行百業、惠及千廠萬商。這正是上海海思在做的事。它以全系列芯片為底座、以HiSpark開發者生態社區為載體,把知識、工具、模型、服務全面開放,試圖為中國端側AI行業,修一條人人可走的路。
Related
相關文章
認識 Voxel51 3.0:為實體 AI 打造的統一多模態資料平臺
Voxel51 已發布 Voxel51 3.0,這是其資料平臺的一次重大更新。Voxel51 3.0 是一個端對端的多模態資料平臺,將搜尋、篩選、標註和評估整合於單一系統中。該平臺鎖定針對機器人、車輛和工廠感測器資料進行模型訓練的團隊。此次發布新增了 Voxel51 Agent、資料溯源層及免費的自助式存取。重點摘要:規模:Voxel51 Agent 內建超過 45 個 MCP 工具、80 多個運算子及 18 個開源技能。執行環境:可於 app.voxel51.com 使用託管網頁應用程式,或於雲端、混合、地端及隔離環境中自行部署。未揭露本機 GPU 需求。效能:未發布產品基準測試。Voxel51 引用其自身調查數據作為依據。最佳亮點:免費方案包含 Voxel51 Agent、每月 30,000 次推論請求及 30 個運算小時。
本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目,幫助讀者快速瞭解當天的重要動態
導航SecureDoc // EncryptionActive本期AI資訊彙總2026年10月18日的產品更新、前沿研究、行業趨勢與開源項目,幫助讀者快速瞭解當天的重要動態。
下一概念建模把文本生成提速最高31倍
斯坦福等聯合提出全新文本生成範式 NCM,生成速度狂飆 31 倍AIbase基地發佈於AI新聞資訊 · 1 分鐘閱讀 · Oct 16, 202633人工智能領域的文本生成技術迎來顛覆性創新。斯坦福大學與 Together AI 的研究人員近日聯手推出了一種截然不同於傳統自迴歸和擴散模型的全新文本生成範式——Next-Concept Modeling(簡稱 NCM,即“下一概念建模”)。該方法巧妙借鑑了圖像生成領域中“下一尺度預測”的思路,有望為未來的文本生成技術開闢全新的發展路線。在技術實現路徑上,NCM 模擬了人類“先構思宏觀大綱、再動筆填充細節”的寫作邏輯。整個系統通過兩階段訓練來完成:首先訓練多尺度殘差 VQ-VAE,從而得到能夠逐層補充信息的多層離散文本編碼;隨後凍結該系統,訓練 Transformer 模塊去預測下一層的編碼。在生成文本時,模型會先並行生成概念層面的宏觀大綱,接著逐層並行填充具體細節,最終組合成完整的文本內容。在實際測試表現中,NCM 交出了令人矚目的成績單。實驗數據顯示,在保持相近甚至更優生成質量的前提下,NCM 相對傳統的擴散語言模型實現了10到31倍的生成速度飛躍,並且在訓練過程中所需消耗的 token 數量也大幅減少。此外,在數獨等複雜推理任務上,它的表現也明顯優於傳統的自迴歸和擴散基線模型,同時還支持通過多生成候選挑選機制來進一步優化最終輸出效果。儘管目前該研究所使用的模型參數規模依然相對有限,其在擴大模型規模後的表現、精確文本以及長篇內容的生成能力仍有待後續驗證,但這一創新思路無疑打破了長期以來的技術慣性,為人工智能高效生成文本提供了充滿想象力的全新解法。本文來自AIbase日報掃碼查看歡迎來到【AI日報】欄目!這裡是你每天探索人工智能世界的指南,每天我們為你呈現AI領域的熱點內容,聚焦開發者,助你洞悉技術趨勢、瞭解創新AI產品應用。
Claude自主優化八類量子電路設計
ScienceDesigning more efficient quantum circuits with ClaudeOct 16, 2026Quantum computers will need carefully designed circuits to run useful algorithms on limited hardware.
12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎?
12.88萬起、華為電驅+L4同源智駕,Ray7能成為埃安年輕化的答卷嗎? 本文作者: 倪萍 2026-10-17 22:42 導語:10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族 10月17日,埃安轎跑Ray7正式開啟預售,預售價12.88 萬起。新車車長4.9米,軸距2.9米,車頭部分搭配3.25米的超長雙環燈帶,是埃安10年煥新的家族式標識。 新車採用寧德時代電池以及廣汽自研的彈匣電池2.0技術,能夠在充分釋放續航能力的同時,監控電池健康狀態。提供45.58kWh和62.98kWh兩種規格,續航可達702公里,整車風阻係數 Cd 低至 0.22。Ray7搭載華為DriveONE多合一電驅,以及華為DriveONE芯片級驅制融合架構,百公里制動僅為32.8米。底盤方面,Ray7搭載高性能前後穩定杆和後五連桿懸架,過彎極限更高,濾振更乾淨。智能化上, Ray7搭載27顆車規級全視角傳感器,採用文遠知行L4級Robotaxi同源大模型。這幫助新車能夠複用 L4 積累的海量場景經驗,在城區掉頭、繞行等複雜場景中可順利通行。自2025年廣汽推進“番禺行動”以來,昊鉑埃安BU的研發、生產、銷售等環節效率不斷提升,產品迭代和新車投放節奏明顯加快。作為埃安全新Ray車系的首款新車,Ray7是埃安開啟年輕化序列的關鍵落子,也是廣汽切入20萬級市場的重要佈局。這一細分市場競爭並不輕鬆:小鵬P7、極氪007等車型已經提前卡位。Ray7想在年輕人心中佔位,不能只堆參數,更要把智能座艙與輔助駕駛、三電安全、補能效率、用車成本和價格權益上的差異,變成用戶可感、可信、可持續的體驗,這才是埃安年輕化的分水嶺。(雷峰網(公眾號:雷峰網)) 雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。
梁聖又掀桌了!DeepSeek新模型斬殺GPT-6,許願式編程時代降臨
作者 | 楊京麗 編輯 | 李水青 10月17日報道,剛剛,DeepSeek V4.1 Flash更新至V4.1-Flash-1017版本,官方網頁端、App與API已同步更新至新模型,模型權重也已在HuggingFace和ModelScope開放下載。DeepSeek還向公眾開放自研搜索引擎的Search(搜索)與Fetch(抓取)API,兩個接口均定價為5元/千次。 此次更新距離該模型發佈僅過去一個多月。9月10日,DeepSeek正式推出V4.1-Flash,在性能上超越了DeepSeek-V4-Pro。