跳转至

实时视频版 Nano Banana 来了:京东开源 JoyAI-Video-Edit 160 亿参数

Ch01.1087 实时视频版 Nano Banana 来了:京东开源 JoyAI-Video-Edit 160 亿参数

📊 Level ⭐⭐ | 5.7KB | entities/实时视频编辑模型-nano-banana-160亿.md

JoyAI-Video-Edit:160 亿参数的实时流式视频编辑模型

2026 年 8 月,京东开源 JoyAI-Video-Edit——视频编辑赛道里第一个同时做到"流式架构 + 实时速度 + 可用质量"的模型,被媒体称为"实时视频版的 Nano Banana"。720P 分辨率下模型推理速度达每秒 30 帧,系统端到端稳定在 24FPS,支持任意时长的稳定流式编辑:对着视频不断动嘴,就能实时渲染变老、变年轻、换装、换背景等视觉特效,直播、视频通话、摄像头画面、游戏画面都能"边播边改"。部署代码、技术报告、在线 Demo 和模型权重同天在 Hugging Face 和 GitHub 放出。

与 Seedance 2.5、MiniMax H3 等视频生成模型(从文字/图片造视频)和 Runway Aleph、VACE 等离线视频编辑模型(整段吃进、整段处理、整段吐出)不同,流式视频编辑是"第三件事":实时处理任何一条"活的"视频流。此前流式模型(StreamDiffusionV2、LiveEdit 1.3B,SANA-Streaming 2B)为跑得快把模型做小、分辨率压到 480P,"快而废";JoyAI-Video-Edit 用 16B 参数 + 720P,速度快 1.4 到 2 倍。

过两道硬坎:速度与时长

第一道坎是速度。 底层架构是 MLLM 条件编码器 + 因果视频 VAE + 16B 多模态扩散 Transformer,按自回归扩散编辑器训练部署。160 亿参数按正常流程跑一帧要迭代很多步,团队用 SA-DMD 训练方法把十几步迭代压缩到两步出图。单张 Nvidia B200 GPU 上:VAE 编码 22ms、DiT 去噪 185ms、VAE 解码 19ms,请求到响应延迟仅 226ms,端到端吞吐 30.1 FPS。

第二道坎是时长。 此前流式模型只能处理几秒到一两分钟,越往后画面越"漂"——自回归模型不断消费自己之前的输出,误差多轮累积成肉眼可见的崩坏。流式编辑比流式生成更难:要同时满足三个互相打架的约束(前面改的不能和后面打架、结果不能与原视频面目全非、同一条指令从头到尾改得一样)。解法是有界 KV 状态推理:只记住最近几段画面加视频开头第一帧当参照,其余扔掉,计算量和内存占用恒定;训练阶段专门让模型练习"只记一点点"条件下编辑长视频。结果是视频可以一直播、一直改,效果稳定。

评测成绩:流式断层第一,追平离线主流

短视频评测 OpenVE-Bench:JoyAI-Video-Edit 总分 3.60,对比流式模型 SANA-Streaming(2.62)、LiveEdit(2.00)、XMax-X2.0(1.87)、StreamDiffusionV2(1.23),五个子任务中四个拿下流式第一,局部删除 4.06 分甚至超过所有离线模型;此前流式模型区间 1.23-2.62 基本不可用,而商业闭源 Runway Aleph 3.45、PixVerse V6 3.05——3.60 已站进离线商业模型区间。长视频评测 LongV2VBench:全部五个类别排第一,总分 3.30,比最强对手 XMax-X2.0 高 1.59 分,速度 30.19 FPS 快 44.4%。人类评估对四个流式模型偏好率 90%、87%、87%、81%,对强离线模型 Bernini-R 为 48% 对 44% 微弱优势。

改变干活方式:从"等渲染"到"现场创作"

三层变化:第一,"等渲染"消失,226ms 延迟把后期变成现场;第二,从"一次拍摄 = 一个成品"变成"一次拍摄 = 无数个成品",通过参考图引导编辑(RV2V)上传衣服图片即可实时换装、动作姿态全保留,电商直播里每件衣服都可能是为观众实时生成的版本;第三,摄像头和屏幕之间第一次多了一个可编程的语义层——流式编辑"看懂画面内容再改"且前后帧连贯,与逐帧套效果的滤镜本质不同。这类能力很可能先进预演、评审、远程协作环节。

更进一步的方向是具身智能数据生产:机器人训练需要海量抓取、搬运、操作视频,但高质量物理交互数据稀缺。以往把一段人手操作视频变成机器人训练数据要串好几个模型(抠手、补背景、渲染机械臂),JoyAI-Video-Edit 把这条流水线压成一句话——物体位置、空间关系和动作轨迹全保留,只换机器人形态,30 FPS 实时跑完。配合京东 JoyAI 矩阵(JoyAI-VL-Interaction、JoyAI-Talker、JoyAI-RA),这套能力拼出"看得懂、听得懂、说得出、抓得住、还能自己造训练素材"的闭环,服务于其"全球最大的物理世界运营中心"布局。

相关

原文存档