复旦开源的Hallo项目近期引发了广泛关注——这是一款能够根据音频和图片生成说话视频的AI工具,如今已正式推出ComfyUI插件。坦诚地说,安装过程中依赖较多、门槛偏高,但这类开源生态的不断完善,为后续的转绘及其他创作流程打开了更多可能性。

Hallo的核心原理并不复杂:输入一段音频,再提供一张静态面部照片,它就能让照片“开口说话”,并且表情会随音频同步变化,效果非常自然。整个系统基于端到端的扩散范式,其亮点在于引入了分层音频驱动的视觉合成模块——该模块专门用于提升音频输入与视觉输出之间的对齐精度,包括唇部运动、面部表情以及头部姿势的联动。
这种分层设计带来了一个非常实用的能力:可以针对不同表情和姿势进行自适应控制。换言之,你可以对生成效果进行更精细的个性化定制,无论使用哪张面孔、哪种声音,Hallo都能生成流畅自然的说话视频。从实际表现来看,效果已相当接近真人讲话的状态。
当然,目前的安装流程相对复杂,对新手并不友好。但从生态角度审视,这一开源项目已经为后续的创意应用铺平了道路——例如结合转绘、角色动画等方向,潜力巨大。随着技术不断迭代,类似的AI项目将会越来越多,玩法也将日益丰富。
