IT之家生成式AI

視頻能“邊播邊改”:京東開源自研 JoyAI-Video-Edit 模型,各項指標全球領先

2026年8月5日 09:48
視頻能“邊播邊改”:京東開源自研 JoyAI-Video-Edit 模型,各項指標全球領先

重點摘要

京東開源自研的即時串流影片編輯模型 JoyAI-Video-Edit,支援邊觀看邊修改人物與場景,實現影片創作即時互動。該模型在720P解析度下達到每秒30幀的推理速度,且能處理任意時長的影片,在業界評測中全面領先其他類似模型。

站內 AI 整理稿

京東於今日(2026年8月5日)正式宣布開源其自主研發的實時流式視頻編輯模型——JoyAI-Video-Edit。這項技術突破打破了傳統視頻編輯「先有素材、再事後修改」的流程,讓用戶能在觀看影片的同時,即時對人物、場景、風格進行編輯,實現「邊播邊改」的互動式創作體驗。京東官方指出,JoyAI-Video-Edit在流式實時視頻編輯領域的各項關鍵指標上,均超越當前國際上具代表性的同類模型,達到世界一流水平。要實現視頻的實時編輯,首要克服的是處理速度的瓶頸。視頻由連續的幀畫面構成,若模型每幀的運算跟不上播放節奏,就會出現明顯的卡頓與延遲。

京東團隊基於全自研的JoyAI-Video基底模型,在720P解析度下成功達到每秒30幀的模型推理速度,這意味著它能順暢對應主流影視作品的播放幀率,同時維持不錯的畫面清晰度,為即時互動提供了技術基礎。除了速度,視頻長度也是流式編輯長期面臨的門檻。過去同類模型往往只能處理數秒或數分鐘的短片段,一旦超過時長就容易中斷或失真。JoyAI-Video-Edit則突破此限制,支援任意時長的穩定流式編輯,可以隨著視頻持續播放、持續進行修改。用戶無需等待整段影片生成完畢,在播放過程中就能即時更換場景、替換物體、調整人物形象,或改變整體畫面風格,真正實現「邊觀看邊創作」。

這樣的即時編輯能力為創作者開闢了全新的可能性。例如,影片創作者可以讓畫面中的人物連續更換不同服裝,直播主能將普通街道瞬間變成動畫世界,而家裝設計師則能在播放過程中嘗試不同的家具、牆面顏色與燈光效果,即時預覽設計變更。這些應用場景過去需要繁複的後製流程,如今在JoyAI-Video-Edit的輔助下,變得直觀且即時。為了驗證模型的實際表現,京東研究團隊將JoyAI-Video-Edit與SANA Streaming、LiveEdit、Xmax-X2.0等國際知名流式視頻編輯模型進行了系統性對比。測試數據涵蓋典型視頻編輯場景,結果顯示JoyAI-Video-Edit在整體效果上全面領先。

尤其在業界權威的OpenVE-Bench通用評測中,該模型超越了目前所有流式編輯方法,在全局風格轉換、局部物件替換、局部刪除以及字幕編輯等任務中表現尤為突出,大幅度領先其他同類模型。除了應用於影音創作,JoyAI-Video-Edit還為具身智能領域的數據合成提供了全新技術路徑。機器人訓練需要大量物體抓取、搬運與操作的視頻樣本,但真實機器人數據採集成本高昂,且危險或罕見場景難以反覆拍攝。

透過JoyAI-Video-Edit對場景、物體與畫面內容的可控編輯能力,研究人員可以將人類操作視頻轉化為機械手或機械臂的操作素材,並在保留物體位置、空間關係與動作軌跡的前提下,替換場景、物體與機器人形態,從而將一段視頻擴展出更多多樣化的訓練樣本,大幅降低數據獲取成本。目前JoyAI-Video-Edit已經正式開源,相關模型與程式碼可於Hugging Face與GitHub平台取得。京東表示,希望透過開源方式,讓更多研究機構與開發者參與到即時視頻編輯技術的發展中,共同推動這項技術在影音創作、直播、設計以及機器人訓練等領域的落地與創新。

隨著即時互動式編輯從概念走向實用,未來視頻內容的生產方式可望迎來根本性變革。

Related

相關文章

MarkTechPost AI生成式AI

NVIDIA AI 推出 NOOA:將 AI 代理轉化為單一 Python 類別的物件導向框架

NVIDIA 實驗室開源了 NOOA(NVIDIA 物件導向代理),這是一個與模型無關的 Python 框架,用於建構 AI 代理。傳統的代理開發分散在提示模板、工具架構、回呼程式碼和工作流程圖中,而 NOOA 將所有這些整合到一個 Python 類別中:方法代表模型可採取的動作,欄位代表代理狀態,文件字串作為提示,型別註解則是執行時期強制執行的合約。主體為「...」的方法由 LLM 驅動的迴圈在執行時期完成,而具有正常主體的方法則保持確定性的 Python 程式碼。開發者與模型因此共享同一介面,使代理行為能像一般軟體一樣進行測試、追蹤、重構和版本控制。NVIDIA 報告在 SWE-bench Verified 上達到 82.2%,在 CyberGym L1 上達到 86.8%,平均 RHAE 為 85.1%。

36 分鐘前

六巨頭定AI插件新標準,撞臉Claude,Anthropic沒上桌

六大科技巨頭(AWS、Anysphere、GitHub、微軟、OpenAI、Vercel)聯合發布AI智能體插件統一開放規範Agent Plugins 1.0.0,旨在統一插件打包格式,減少開發者重複勞動。該規範的結構與Anthropic的Claude Code插件系統高度相似,但Anthropic並未參與制定,而是繼續經營自己的封閉生態。

2 小時前
鈦媒體生成式AI

DeepSeek重啟融資,三年市值對齊騰訊?

DeepSeek重啟第二輪融資,以5000億元人民幣估值尋求籌集80億美元,但網傳一份由小型醫藥私募發起的專項基金募資材料引發網友質疑,後經DeepSeek員工證實部分數據屬實。該公司近期宣布API大幅漲價,可能打破其以低價換規模的估值邏輯,面臨客戶流失風險。市場關注其能否從「價格屠夫」轉型為價值提供商,以及三年內市值能否對齊騰訊等巨頭。

3 小時前

可靈AI核心技術骨幹王鑫濤被曝離職

快手可靈AI核心技術骨幹王鑫濤被曝離職,去向未知,快手官方與本人均未回應。王鑫濤是圖像與視頻生成領域知名開源項目主要作者,被視為可靈從0到1的關鍵推手。其離職發生在可靈完成獨立融資、估值180億美元的關鍵階段,可能影響研發進度與競爭優勢。

3 小時前