开源视频生成领域正迎来一场新的技术革命。视频生成模型 Open-Sora 2.0 正式亮相——这个项目仅花费 20 万美元(约合 224 张 GPU)便训练出拥有 110 亿参数的商业级大模型,直接对标那些训练成本动辄数百万美元的闭源巨头。今天,我们来深入拆解这个项目的核心突破,以及它为何被誉为“开源视频生成标杆”。
1. 体验与指标双在线
先看实际效果。Open-Sora 2.0 在多项关键评测指标上,已能与 HunyuanVideo 和 300 亿参数的 Step-Video 一较高下。权威评测 VBench 和用户偏好测试均证实了这一点——它不仅视觉表现惊艳,在文本一致性以及动作呈现方面同样扎实可靠。
具体来说,它支持动作幅度可控,可根据需求细腻展现人物或场景的运动细节;提供 720p 高分辨率与 24 FPS 的流畅视频输出,帧率稳定、细节丰富;从乡村景色到自然风光,画面过渡平滑,细节还原度极高。
在 110 亿参数规模下,它在 VBench 和人工偏好评测中均取得了与主流闭源模型同等水平的成绩。在视觉表现、文本一致性和动作表现三个维度上,Open-Sora 在至少两个指标上超越了开源 SOTA 模型 HunyuanVideo 以及商业模型 Runway Gen-3 Alpha。以极低成本实现高性能——这句话放在这里,再合适不过。
再看 VBench 指标。从 Open-Sora 1.2 升级到 2.0 后,它与行业领先的 OpenAI Sora 闭源模型之间的性能差距大幅缩小——从之前的 4.52% 降至仅 0.69%,几乎全面追平。更值得一提的是,Open-Sora 2.0 在 VBench 评测中的得分已超过腾讯的 HunyuanVideo,以更低的成本实现了更高的性能。开源视频生成技术的标杆,已被重新定义。
2. 实现突破:低成本训练与高效能优化
Open-Sora 自开源以来,凭借高效与优质表现吸引了大量关注。但高质量视频生成成本居高不下,始终是一道难以逾越的障碍。市面上 100 亿参数以上的开源视频模型,单次训练成本动辄上百万美元,而 Open-Sora 2.0 将其降低了 5 到 10 倍。
作为开源视频生成领域的领导者,Open-Sora 不仅开源了模型代码和权重,还公开了全流程训练代码,成功构建了一个强大的开源生态。据第三方技术平台统计,Open-Sora 的学术论文引用量半年内获得近百次引用,在全球开源影响力排名中稳居首位,领先所有开源的 I2V/T2V 视频生成项目,成为全球影响力最大的开源视频生成项目之一。
2.1 模型架构
Open-Sora 2.0 延续了 1.2 的设计思路,继续采用 3D 自编码器和 Flow Matching 训练框架,并通过多桶训练机制,实现对不同视频长度和分辨率的同时训练。在模型架构上,引入了 3D 全注意力机制,进一步提升视频生成质量。同时采用最新的 MMDiT 架构,更精准地捕捉文本信息与视频内容之间的关系,模型规模从 10 亿扩展至 110 亿。此外,借助开源图生视频模型 FLUX 进行初始化,大幅降低了训练成本。
2.2 高效训练方法和并行方案全开源
为了追求极致的成本优化,Open-Sora 2.0 从四个方面入手削减训练开销。
第一,严格的数据筛选。采用多阶段、多层次的筛选机制,结合多种过滤器,从源头提升模型训练效率。
第二,高分辨率训练的成本远超低分辨率,达到相同数据量时,计算开销可能高达 40 倍。以 256px、5 秒的视频为例,tokens 数量约 8000,而 768px 的视频 tokens 数量接近 80000,相差 10 倍,再加上注意力机制的平方级计算复杂度,高分辨率训练的代价极其昂贵。因此,Open-Sora 优先将算力投入到低分辨率训练,以高效学习运动信息,在降低成本的同时确保模型能够捕捉关键的动态特征。
第三,优先训练图生视频任务,以加速模型收敛。相比直接训练高分辨率视频,图生视频模型在提升分辨率时具备更快的收敛速度,从而进一步降低训练成本。在推理阶段,除了直接进行文本生视频(T2V),还可以结合开源图像模型,通过文本生图再生视频(T2I2V),获得更精细的视觉效果。
第四,采用高效的并行训练方案,结合 ColossalAI 和系统级优化,大幅提升计算资源利用率。为了实现这一点,引入了一系列关键技术:高效的序列并行和 ZeroDP,优化大规模模型的分布式计算效率;细粒度控制的 Gradient Checkpointing,在降低显存占用的同时保持计算效率;训练自动恢复机制,确保 99% 以上的有效训练时间;高效数据加载与内存管理,优化 I/O,防止训练阻塞;高效异步模型保存,减少模型存储对训练流程的干扰;算子优化,针对关键计算模块进行深度优化。这些措施协同作用,使 Open-Sora 2.0 在高性能与低成本之间取得最佳平衡。
2.3 高压缩比 AE 带来更高速度
训练完成后,Open-Sora 进一步探索了高压缩比视频自编码器的应用,以大幅降低推理成本。目前,大多数视频模型仍采用 4×8×8 的自编码器,导致单卡生成 768px、5 秒视频耗时近 30 分钟。为解决这一瓶颈,Open-Sora 训练了一款高压缩比(4×32×32)的视频自编码器,将推理时间缩短至单卡 3 分钟以内,推理速度提升 10 倍。
要实现高压缩比编码器,需要解决两个核心挑战:如何训练高压缩但仍具备优秀重建效果的自编码器,以及如何利用该编码器训练视频生成模型。针对前者,团队在视频升降采样模块中引入残差连接,成功训练出一款重建质量媲美当前开源 SoTA 视频压缩模型、且具备更高压缩比的 VAE。针对后者,Open-Sora 提出了基于蒸馏的优化策略,以提升自编码器特征空间的表达能力,并利用已经训练好的高质量模型作为初始化,减少训练所需的数据量和时间。此外,重点训练图生视频任务,利用图像特征引导视频生成,进一步提升了高压缩自编码器的收敛速度。
从行业趋势来看,高压缩比视频自编码器将成为未来降低视频生成成本的关键方向。目前的初步实验结果已展现出显著的推理加速效果,希望能进一步激发社区对这一技术的关注与探索,共同推动高效、低成本的视频生成发展。
