游乐游手机版
首页/业界动态/文章详情

从「片段生成」到「长视频漫游」:OmniRoam探索轨迹可控的长视频生成新范式

时间:2026-04-16 17:20
从“片段”到“旅程”:OmniRoam如何让AI视频学会“连续行走” 生成式视频技术如今已能轻松炮制出几秒钟的惊艳片段,但一个更深层、也更棘手的挑战正浮出水面:如何让AI生成一段能“走”得更远、更稳的长视频? 问题就出在“时间”上。当视频从几秒延伸到几十甚至上百秒,视角的连续变化和时间的不断推移,会

从“片段”到“旅程”:OmniRoam如何让AI视频学会“连续行走”

生成式视频技术如今已能轻松炮制出几秒钟的惊艳片段,但一个更深层、也更棘手的挑战正浮出水面:如何让AI生成一段能“走”得更远、更稳的长视频?

问题就出在“时间”上。当视频从几秒延伸到几十甚至上百秒,视角的连续变化和时间的不断推移,会像一场无声的侵蚀,导致画面结构漂移、内容前后矛盾。结果就是,视频常常“走着走着就散了架”,在空间和时间两个维度上都难以维持稳定。

与此同时,另一个实际需求变得迫切:我们能否像设定导航路线一样,精确控制视频内容的演化路径?

最近,来自加州大学欧文分校、加州大学圣地亚哥分校、香港城市大学、宾夕法尼亚大学以及Adobe Research的研究团队,共同交出了一份名为OmniRoam的答卷。这项研究瞄准的,正是轨迹可控的长视频生成。

论文标题:OmniRoam: World Wandering via Long-Horizon Panoramic Video Generation

项目主页:https://yuheng.ink/project-page/omniroam/

文章链接:https://arxiv.org/pdf/2603.30045

代码链接:https://github.com/yuhengliu02/OmniRoam

这项工作的核心思路颇为巧妙:它引入全景视频作为一种统一的表示方法,并结合了一套“由粗到精”的分阶段生成框架。这套组合拳,在长时序条件下显著提升了视频的空间一致性与时间连贯性,使得模型能够沿着指定路径生成连续演化的视频序列。可以说,这是从“片段生成”迈向“连续过程生成”的关键一步。

一、先画路线图:轨迹可控的视频预览

OmniRoam的第一步,是生成一个中等分辨率的全景视频“预览”。这就像在动工前先画一张设计蓝图,目的是确定整体的运动路径和场景结构。

这里的核心创新,在于将相机轨迹拆解为两个直观的控制量:flow(流向)scale(步长)。前者刻画运动方向,后者控制每一步的移动幅度。这种拆解让轨迹建模变得更加清晰可控。在技术实现上,模型将起始画面与目标视频在时间维度上拼接,并通过flow和scale这两个条件进行调制。这样一来,生成过程既能保持内容的连续性,又受到了明确路径的约束。

二、精雕细琢:从预览到高质量长视频

有了全局预览作为骨架,OmniRoam便进入第二阶段——长时序细化生成。由于预览阶段通常采用较大的scale(类似于“快进”播放),细化阶段会通过scale对齐,将视频扩展为更长、速度更接近真实世界的序列。

这个阶段的一个关键设计是visibility mask(可见性掩码):在每个时间段,只选取少量的预览帧作为条件输入。这样做的好处是,既保留了关键的结构锚点,又避免了信息冗余。随后,模型对各个片段进行高分辨率生成,最终拼接成完整的长视频。这种“全局预览,局部细化”的策略,有效缓解了长序列生成中误差累积的顽疾。

三、为新任务铺路:数据集与评测基准

为了支撑这项全新的任务,研究团队构建了专门的数据集与评测体系。在表示层面,文章定义了一个标准全景坐标系,去除了相机的自旋转,只保留平移运动,从而简化了轨迹建模的复杂度。

数据方面则采用了“虚实结合”的策略:真实的全景视频提供了丰富的场景多样性,而合成的数据则提供了精确的轨迹监督。通过路径规划算法,确保了所有运动轨迹的合理性。在评测上,团队提出了一个巧妙的闭环一致性指标:要求模型生成的视频在沿着一个闭环路径“行走”一圈后,不仅能回到起点,还要保持中间过程的合理变化。这个指标更能衡量长时序下的空间一致性。

四、实验结果:一致性与可控性双提升

实验数据表明,OmniRoam在画质、轨迹控制和长时序一致性上均超越了现有方法。

定性来看,模型能够稳定地沿着指定路径生成连续视频,结构漂移和内容崩塌的现象被显著抑制。定量指标(如FAED、SSIM、LPIPS及闭环一致性)也一致显示其更优的性能。

深入分析发现,全景表示与两阶段生成设计是性能提升的关键,这让模型即使在生成长视频时也能保持稳定与可控。文章特别对比了在长视频(641帧)条件下,包括自回归生成和基于透视表示方法在内的不同方案的表现。

为了进一步探究长时序一致性,作者设计了一个闭环轨迹实验,并用CLIP图像相似度来衡量模型能否“走回原点”。理想情况下,随着相机逐渐远离起点,相似度应逐步下降;而当轨迹完成闭环时,相似度应重新上升。实验结果正如所料:相似度曲线在中段下降,在末尾重新回升,这有力地证明了模型具备了较强的长期空间记忆能力。

五、不止于生成:从实时预览到3D场景

除了核心的长视频生成能力,OmniRoam还展示了其在效率与3D任务上的扩展潜力。

在效率方面,作者基于self-forcing机制,将完整模型蒸馏为一个轻量级的自回归预览模型,实现了接近实时的视频生成。这个轻量模型在保持整体场景结构的同时,能在约7秒内生成81帧全景视频,相比原始模型速度大幅提升,为交互式应用打开了大门。同时,框架还支持先生成低分辨率视频,再通过细化模块提升至高分辨率(如720p)的灵活工作流。

在3D应用方面,OmniRoam生成的长视频可以直接作为3D场景重建的优质输入。研究者从生成视频中均匀采样关键帧,并提取多个透视视角,输入到3D Gaussian Splatting(3DGS)管线中进行重建。结果表明,生成视频在不同视角间保持了良好的一致性,能够重建出结构连贯的3D场景。

这些发现意味着,OmniRoam不仅可以作为长视频生成器,还能作为上游模块,为实时交互应用与3D内容构建提供强有力的支持。

六、总结:长视频生成迈向“可持续演化”

OmniRoam的核心贡献,并不仅仅是生成了更长的视频,而是在长时序条件下,实现了一种更稳定、更可控的生成“过程”。通过全景表示提供全局空间约束,再结合“轨迹控制预览”与“长时序细化”的两阶段设计,模型能够在长时间范围内有效抑制漂移,维持结构与语义的前后一致。

这背后反映出一个更重要的趋势:视频生成领域的挑战重心,正在从“生成更清晰的单帧内容”,转向“如何在更长的时间轴上保持一致性”。在这一背景下,OmniRoam提供了一条可行的技术路径,使生成模型能够沿着指定轨迹持续、稳定地演化,为未来的长视频叙事、虚拟世界漫游等场景奠定了基石。

如果说短视频生成解决的是“生成一段内容”,那么长时序生成真正关心的,是模型能否在时间的流逝中,持续地“记住并延续”整个场景的生命力。

来源:https://36kr.com/p/3767745167115012
上一篇宇树:受时间精力限制 仅H1一款机型参赛机器人半马 下一篇甲醛去除率99%背后,技术差异有多大?2026年除醛净化器横评与0臭氧机型实测
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
九号N1机甲风电动车发布 模拟声浪轻量化车架3499元起
业界动态 · 2026-05-29

九号N1机甲风电动车发布 模拟声浪轻量化车架3499元起

九号发布N1机甲风电动车系列,三款起售价3499元。N170极速47km h,轻量化车架;N185极速55km h,可选模拟声浪;旗舰N190极速60km h,标配模拟声浪及双通道ABS,7月上市。

九号2026新品发布会最强阵容连发4款新车重新定义好车标准
业界动态 · 2026-05-29

九号2026新品发布会最强阵容连发4款新车重新定义好车标准

九号公司发布2026年新品,推出N1、M1、M3及Fz5四款新车,覆盖电摩与电自领域。N1主打短轴距声光电酷玩体验,M1配备双通道ABS与100公里真续航,M3下放AXC车架技术,Fz5首搭载双向转把功能。同时推出3年原厂换新质保等用户权益。

世界超级摩托车锦标赛阿拉贡站张雪机车超级杆位赛获亚军
业界动态 · 2026-05-29

世界超级摩托车锦标赛阿拉贡站张雪机车超级杆位赛获亚军

5月29日,世界超级摩托车锦标赛(WSBK)阿拉贡站传来一则引人瞩目的消息——中国摩托车制造商“张雪机车”旗下的法国车手瓦伦丁·德比斯,在WorldSSP组别的超级杆位赛中成功夺得第二名。 先简要科普一下赛事背景:世界超级摩托车锦标赛(WSBK)是由国际摩托车联合会于1988年创立的顶级公路摩托车赛

英雄联盟海克斯大乱斗重大更新 移除羁绊新增技能符文
业界动态 · 2026-05-29

英雄联盟海克斯大乱斗重大更新 移除羁绊新增技能符文

英雄联盟海克斯大乱斗将在26 12版本移除羁绊系统,上线技能符文体系。该符文能重构技能释放逻辑,实现布里茨钩五人、拉克丝定全队等效果。部分原有羁绊效果转为独立专属符文,更新预计2026年6月中旬登陆国服。

领克10/10+正式上市限时价16.99-23.59万号称弯道之王
业界动态 · 2026-05-29

领克10/10+正式上市限时价16.99-23.59万号称弯道之王

```html 5月29日晚间,领克终于将其备受关注的中大型运动纯电轿车正式推向市场——领克10与领克10+同步上市,官方直接打出“弯道之王”的旗号。我们先不深究它是否真能“弯道超车”,单从价格来看,就已经颇具冲击力。 先奉上一张价格速览表,让大家心里有个底: 领克 10 701 长续航 Max:指