近日,京东宣布正式开源其长视频生成框架JoyAI-Echo,该框架致力于攻克长视频生成领域长期存在的关键技术瓶颈。这一开源举措意味着相关技术将全面向开发者和创作者开放,可供直接体验与二次开发。

官方表示,JoyAI-Echo的发布标志着京东在该领域取得重大技术突破,并已跻身全球领先行列。其核心目标是解决行业普遍面临的三大难题:角色形象易失真、声音音色不稳定以及生成速度缓慢。
跨模态记忆库保障角色与音色一致性
JoyAI-Echo框架内置跨模态音视频记忆库,能够在生成多镜头视频的过程中持续保存并精准调用角色的外观特征与说话人的音色信息。实测表明,在长达5分钟的视频生成任务中,角色的身份、视觉形象及声音音色均保持高度一致,有效避免了生成过程中角色“崩坏”或“突变”的问题。
记忆驱动后训练显著提升生成效率
为提升生成质量与速度,京东提出了记忆驱动后训练流程,融合了SFT、跨模态RLHF以及Distribution Matching Distillation(DMD)等技术。其中,仅DMD技术一项便实现了约7.5倍的推理速度提升,大幅提高了长视频内容的生成效率。
智能导演助理与局部重生成机制
该框架还集成了智能“导演助理”(Director Agent)。用户仅需用自然语言描述创作需求,系统即可自动拆解剧本,智能规划角色、场景及镜头。若对生成结果中的某个镜头不满意,用户可直接通过对话提出修改意见,系统将仅重新生成问题部分,无需整条视频返工,极大提升了创作灵活性和效率。
配套专业工具与评测表现业界领先
为满足专业内容生产需求,JoyAI-Echo配备了实时超分模块,支持将分辨率从736×1280提升至1152×1920或1472×2560两档,可在流式延迟约束下生成高分辨率视频与精细音频。研究团队基于100个故事、3000个镜头构建了专用评测集进行测试。结果显示,JoyAI-Echo在跨镜头一致性、视频质量、文本一致性等核心指标上表现领先,其语音内容准确率高达0.8646,优于行业同类模型。
