12月19日,IT之家消息,科技媒体9to5Mac于18日发布博文披露,苹果研究团队近日发布了多模态AI模型UniGen 1.5,成功在一个统一系统中集成了图像理解、生成与编辑三大核心功能。
与传统方案依赖不同模型分别处理各项任务不同,UniGen 1.5最大的突破在于构建了一个统一的框架,仅凭一个模型即可同时完成图像理解、图像生成以及图像编辑任务。研究人员认为,这种统一架构能让模型利用其强大的图像理解能力反哺生成效果,从而实现更精准的视觉输出。
在图像编辑领域,模型常常难以精准捕捉用户微妙或复杂的修改指令。苹果团队为解决这一难题,首创性地引入了名为“编辑指令对齐”的后训练阶段。
该技术并非直接让模型修改图片,而是要求模型先根据原图和指令,预测出目标图像的详细文本描述。这种“先想后画”的中间步骤,迫使模型在生成最终图像前,必须深度内化用户的编辑意图,从而大幅提升了修改的准确性。


这一中间步骤有助于模型在生成最终图像之前,更好地理解预期的编辑内容。
除了指令对齐,UniGen 1.5的另一大贡献在于强化学习层面的创新。研究团队成功设计了一套统一的奖励系统,能够同时应用于图像生成和图像编辑的训练过程。
此前,由于编辑任务涉及从微调到重构的巨大跨度,统一奖励机制极难实现,而这一突破让模型在处理不同类型视觉任务时,能够遵循一致的质量标准,显著增强了系统的“抗干扰”性。

UniGen-1.5 的文本转图像生成和图像编辑功能的一些示例

UniGen-1.5 的文本转图像生成和图像编辑功能的一些示例
在多项行业标准基准测试中,UniGen 1.5展现了强劲的竞争力。数据显示,该模型在GenEval和DPG-Bench测试中分别获得0.89和86.83的高分,显著优于BAGEL和BLIP3o等近期热门方法。
在图像编辑专项测试ImgEdit中,其4.31的综合得分不仅超越了OminiGen2等开源模型,更与GPT-Image-1等专有闭源模型表现持平。
尽管整体表现优异,UniGen 1.5目前仍存在一定局限性。研究人员在论文中坦承,由于离散去标记器在控制细粒度结构方面存在不足,模型在生成图片内的文字时容易出错。

图 A 展示了 UniGen-1.5 在文本转图像生成和图像编辑任务中的失败案例。以上图源:苹果论文
此外,在部分编辑场景下,模型偶尔会出现主体特征漂移的问题,例如猫的毛发纹理改变或鸟的羽毛颜色偏差,这些问题将是团队未来的优化重点。
IT之家附上参考地址
