Runway和Luma又打起来了,Yann LeCun炮轰:你们再牛,也不是「世界模型」
AI视频生成赛道近期持续升温,两大头部玩家在同一天各自亮出杀手锏。6月29日,Runway宣布其最新模型Gen-3 Alpha向部分用户开放测试;同日,Luma也推出了关键帧新功能,并对所有用户免费开放。用一句老话来说——你有张良计,我有过墙梯,两家在AI视频生成领域斗得不亦乐乎。

这可把网友们高兴坏了,“6月,多么美好的一个月!”

“疯狂的5月、疯狂的6月,疯狂到根本停不下来!”

Runway超绝镜头,干掉好莱坞
两周前,AI视频生成“王者”Runway祭出Gen-3 Alpha时,就预告过将在“几天内”首先向付费用户提供,免费版本也会在未来某个时间点开放。到了6月29日,他们果然兑现了承诺——部分用户已经可以上手测试了。

Gen-3 Alpha之所以备受追捧,是因为它和上一代相比,光影质感、画面质量、构图表现、文本语义还原、物理模拟、动作一致性全都上了一个台阶。官方宣传语也挺有情怀:“For artists, by artists”。那么实际效果到底怎么样?网友们的整活最有说服力。

一个可怕的怪物从伦敦泰晤士河升起的电影镜头——

一只悲伤的泰迪熊在哭泣,哭到伤心处还拿纸巾擤鼻涕——

身穿华丽礼服的英国女郎,行走在古堡耸立的大街上,旁边有疾驰的车辆、缓行的马匹——

一个巨大的蜥蜴,全身镶嵌着华丽的珠宝、珍珠,穿过茂密的植被,在光线下闪闪发光,画面逼真程度堪比纪录片。

还有一只满身红蓝宝石的镶钻蛤蟆——

夜晚的城市街道,雨水泛起霓虹灯的倒影。镜头从水坑中的反射灯光开始,缓缓升起,展现出发光的霓虹广告牌,随后继续向后拉远,整条被雨水浸湿的街道尽收眼底。
培养皿中生长的黄色霉菌,在暗淡而神秘的灯光下呈现冷色调,动态感十足。

秋天的森林中,地面被橙色、黄色和红色的落叶覆盖。轻风拂过,镜头紧贴地面向前推进,一阵旋风形成,将落叶卷起,形成螺旋。镜头随之升起,绕着旋转的落叶柱旋转。
从满是涂鸦的隧道低视角开始,镜头平稳地沿道路推进,穿过短暗的隧道,在另一侧出现后迅速升高,展现出一大片五彩缤纷的野花田,周围是雪山环绕。
一个弹钢琴的特写镜头,手指在琴键上跳跃,没有手部畸变,动作流畅。唯一的不足是:无名指上没有戒指,但影子“无中生有”地出现了。

网友们的整活还炸出了Runway联合创始人Cristóbal Valenzuela,他为自创的蜜蜂相机生成了一段视频。这个袖珍相机长啥样呢?

AI视频生成技术再这样进化下去,好莱坞的演员们又要闹罢工了——这可不是开玩笑。
Luma的关键帧新功能,画面过渡丝滑
同一天,Luma AI推出了关键帧功能,而且大手一挥,直接向所有用户免费开放。操作很简单:用户只需上传起始和结束图片,加上文字描述,Luma就能生成好莱坞级别的特效视频。
比如,X网友@hungrydonke上传了两张关键帧照片:


提示词是:“A bunch of black confetti suddenly falls”(突然,一堆黑色纸屑纷纷扬扬地落下来),效果如下——

网友@JonathanSolder3先用Midjourney生成两张图片:


接着用Luma关键帧功能生成了超级赛亚人变身动画。据作者说,不需要增强提示,只输入“超级赛亚人”就行。
还有网友用这个功能完成每一个镜头过渡,将经典童话混搭,生成了名为《The Wolf, The Warrior, and The Wardrobe》的动画。
魔鬼变天使——

橘子变小鸡——

星巴克logo变身——

还有网友将20个梗图利用Luma进行无缝衔接。AI视频生成界战况如此焦灼,天晓得Sora怎么这么沉得住气,到现在都不露面。
Yann LeCun「炮轰」:它们压根不懂物理
早在年初Sora发布时,“世界模型”就成了火热的概念。后来谷歌的Genie也打出“世界模型”旗号,这次Runway推出Gen-3 Alpha时,官方称“朝着构建通用世界模型迈出了重要一步”。那到底啥是世界模型呢?其实并没有一个标准定义,但AI科学家们认为,人和动物会潜移默化地掌握世界运作规律,从而可以“预知”接下来发生的事情并采取行动。世界模型的研究就是让AI学习这种能力。
很多人觉得Sora、Luma、Runway生成的视频相当逼真,还能按时间顺序往后生成新内容,似乎学会了“预知”事物发展的能力——这与世界模型研究追求的目标不谋而合。不过,图灵奖得主Yann LeCun一直是个清醒的“泼冷水”者。他认为:“根据提示产生看起来最真实的影片,并不代表系统理解物理世界,生成与世界模型的因果预测有很大不同。”
7月1日,Yann LeCun连发6条帖子炮轰视频生成模型。他转发了一个AI生成体操的视频:视频中的人物要么脑袋凭空消失,要么惊现4条腿,各种奇葩画面满天飞。Yann LeCun说,视频生成模型并不理解基本的物理原理,更不用说人体结构了。

“Sora和其他视频生成模型都有类似的问题。毫无疑问,视频生成技术会随着时间的推移而变得更加先进,但是,真正理解物理的优秀世界模型不会是生成式的。所有的鸟类和哺乳动物都比任何视频生成模型更懂物理,然而它们中没有一种能生成详细的视频。”

有网友质疑:人类不正是根据对物理的理解,在脑海中不断生成详细的“视频”吗?Yann LeCun线上答疑:“我们构想的是可能发生的抽象情景,而不是生成像素图像。这就是我想表达的观点。”

还有网友认为,鸟类和哺乳动物的大脑时刻在生成详细的“视频”,只是无法外化展现。Yann LeCun反驳道:“不,它们不会。它们只是生成可能发生的抽象情景,这和生成详细的视频有很大的区别。”
