游乐游手机版
首页/科技数码/文章详情

字节视频模型超Gemini+3 Pro:理解力爆发,小素材秒出剪辑方案

时间:2025-12-02 13:05
字节新视频模型Vidi2,理解能力超过了Gemini 3 Pro。不仅会看还会“剪”,能根据数小时的素材和一个提示,生成JSON剪辑指令。剪辑位置、台词、字幕、配乐等内容都完整涵盖,“照方抓药”之后

字节短视频模型Vidi2在理解能力上已经超越了Gemini 3 Pro。

它不仅能看懂视频内容,还掌握了剪辑技能——只需提供几个小时的原始素材和一个简单的指令,就能生成完整的JSON格式剪辑指南。

从剪辑点位、台词调整、字幕样式到背景音乐选择,所有细节都被完整覆盖。按照这份“药方”操作,最终呈现的效果让人惊艳:

这意味着,电影里那些帅气美丽的精彩瞬间,现在也能通过AI批量生成了(手动狗头)。

一键生成完整剪辑方案

Vidi2更像是一位专业的剪辑助理,能帮你高效处理素材。你只需把一堆原始片段交给它,再简单说明创意方向,它就能自主构思整个视频剧本。

它会生成一份极其详尽的剪辑清单,精确规定每个镜头该保留哪几秒、播放速度如何调整、字幕该用什么样式,甚至连配合画面的吐槽旁白都会自动写好。

最后你只需照着这份清单进行渲染,就能直接导出一支剧情完整、配乐恰到好处、特效专业的成品视频。

实现这一切的基础,在于Vidi2在视频理解方面的表现确实出众。

以往的模型可能只能告诉你某个画面大概出现在第几分钟,但Vidi2不仅能精准定位时间段,还能直接在画面上框出标记,将你要找的人或物体实时圈选出来。

这种精细的定位能力在处理长视频时尤为关键。即使视频长达半小时,或者画面中的物体很小、运动速度很快,它都能稳稳地持续追踪。

从测试结果来看,Vidi2在这些任务上的准确度比GPT-5和Gemini 3 Pro都要高出不少,基本解决了长视频中找不到关键细节的难题。

具体来说,Vidi2在核心的时空定位任务上取得了压倒性优势,其衡量时空对齐精度的关键指标(vIoU-Int.)高达60.3%,几乎是GPT-5(33.6%)的两倍,更是远超Gemini 3 Pro Preview(16.6%)。

特别是在超长视频处理上,Vidi2表现出极高的稳定性。当视频时长超过一小时,它依然能保持38.7%的检索精度。

端到端时空定位

Vidi2最核心的技术突破在于实现了端到端的时空定位能力。

它能够在统一输出中精准锁定目标事件的时间片段,并同步生成空间边界框轨迹,从而解决了长视频中复杂对象的持续跟踪难题。

数据进入模型后,首先通过统一的编码接口进行处理,单张静态图像被直接视为时长一秒的静音视频。

针对视频时长从十秒到三十分钟不等的跨度,模型采用了重新设计的自适应Token压缩策略,根据视频总时长动态调节信息密度,在处理短视频时保留高密度特征,面对长视频时则通过压缩降低负载。

经过编码与压缩的特征流随即进入模型核心。

Vidi2以Vidi1的架构为基础,将其中的模型替换成了Google最新的开源模型Gemma-3,并配合增强的视觉编码器构建起参数量达120亿的底座。

其关键是采用了分解注意力机制,把传统Transformer的全注意力运算拆解为视觉内部的对角注意力、文本自注意力及跨模态注意力三个独立部分。

该机制将多模态Token的计算复杂度从平方级降低为线性级,使模型能以有限显存处理长达一小时的视频流。

为了解决时空定位数据极度稀缺的难题,研发团队还设计了一套独特的数据合成路径,利用现有量图级空间定位数据,通过滑动窗口算法来处理静态图像,在图像上模拟摄像机的运动轨迹。

这一过程将原始图像中的静态边界框动态映射到生成的每一个视频帧中,从而自动生成了随时间连续变化的边界框序列,在数据构造层面直接实现了将静态的空间定位扩展为动态的时间对齐。

训练流程还引入了大量经过高精度人工标注的真实世界视频数据,以修正合成数据可能带来的分布偏差并进一步提升定位精度。

在最终训练阶段,Vidi2采用了时间感知多模态对齐策略。

这是一种分阶段、双向强化的训练机制,首先在合成与真实数据训练中,利用双向预测任务——根据时间戳预测密集字幕,以及根据文本反推时间范围——来训练模型对时间边界的敏感度。

随后在后训练阶段,融入了大量通用视频问答数据,通过回答开放性问题来验证并强化模型在视觉、听觉与文本之间的深层语义关联。

总之,在Vidi2当中,数据确实扮演了很重要的角色,正如这位网友所说,Google Gemini和Veo 3做得好,是因为手里有YouTube当中的视频数据。

而掌握大量短视频的字节,同样拥有自己的数据优势。

来源:https://www.itbear.com.cn/html/2025-12/1035806.html
上一篇蔚来EC6撞击后车身断裂两截,官方确认电池未现安全隐患 下一篇阿维塔11月销14057辆同比增长21.4%,市场表现强劲
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
LiblibAI云端WebUI降低AI绘画部署门槛
科技数码 · 2026-07-02

LiblibAI云端WebUI降低AI绘画部署门槛

LiblibAI在线WebUI的核心优势在于——只需通过浏览器即可流畅运行Stable Diffusion,无需自行搭建本地环境。云端直接处理运算,模型即选即试,大幅降低了AI绘画的创作门槛。对于轻量创作和模型快速测试来说,体验相当顺畅,但用户仍需重视数据隐私保护和版权合规等问题。 过去使用Stab

微软因用户不安叫停Edge浏览器AI历史搜索功能
科技数码 · 2026-07-02

微软因用户不安叫停Edge浏览器AI历史搜索功能

微软紧急暂停Edge浏览器AI历史搜索功能,该功能因被用户吐槽“令人不安”而暂缓部署。尽管微软强调所有AI处理在设备端完成且数据不上传云端,但用户仍不信任。此举与WindowsK2计划减少功能堆砌的理念一致。

红魔游戏平板5 Pro发布 4999元起售将登陆全球市场
科技数码 · 2026-07-02

红魔游戏平板5 Pro发布 4999元起售将登陆全球市场

【CNMO科技消息】近日,红魔游戏平板5 Pro正式发布。这款平板从定位上就明确瞄准“极致游戏”体验,外观方面带来了一个重磅亮点——首次引入RGB水冷散热系统,背部那条可视化的水路通道,配合纯平透明背板设计,核心配置信息一览无余,科技感十足。 图源网络 屏幕方面同样表现突出。一块9 06英寸OLED

杭州全国首所机器人学校首批30台机器人入学
科技数码 · 2026-07-02

杭州全国首所机器人学校首批30台机器人入学

30台机器人整齐列队,有的刚从生产线卸下,机械零件还带着崭新的“工业气息”;有的已搭载运动控制模块,能稳健地小跑、跳跃几下。它们来自不同制造工厂,外形与功能各有千秋,但此刻都拥有了同一个身份——杭州机器人学校的第一批入学新生。 6月30日,杭州经信正式发布:由浙江大学机器人研究院、浙江省质量科学研究

美国计划发射航天器托举天文卫星
科技数码 · 2026-07-02

美国计划发射航天器托举天文卫星

就在最近,NASA公布了一项非常果断的干预计划——他们定于6月30日实施一次“卫星维修任务”,派遣一台名为“连接”号的机器人服务卫星,为一颗超期服役的天文卫星延长运行寿命。这颗卫星是“尼尔·格雷尔斯·斯威夫特天文台”,其轨道高度正在不断衰减,如果不进行干预,今年年底前很可能会坠入地球大气层并烧毁。