游乐游手机版
首页/AI热点日报/热点详情

SeFi-Image 开源文本到图像模型 基于语义优先扩散

类型:热点整理2026-07-12
SeFi-Image是开源文本到图像模型,采用语义优先扩散机制,将语义与纹理分离处理,先由语义流去噪提供结构锚点。提供1B、2B、5B三种规格,5B模型仅用125KGPU小时训练,在GenEval、LongTextBench等基准测试中取得领先,支持长文本渲染与多领域图像生成。

SeFi-Image是什么

SeFi-Image这个名字听起来有点技术范儿,但核心思路其实很简单:它把图像生成中的“语义”和“纹理”拆开来处理。先让语义流提前去噪,为后续的纹理生成提供清晰的结构锚点——这样一来,生成的图像在几何结构和组合控制上明显更靠谱。目前模型提供了1B、2B、5B三种规格,其中5B版本只用了125K A800 GPU小时就完成了训练,却在GenEval、LongTextBench、CVTG-2K和OneIG等一堆基准上拿下了第一梯队的表现。场景合成、富文本排版、动漫角色、风格多样性,甚至人像生成,它都能应对。

SeFi-Image – 开源的文本到图像模型,基于语义优先扩散

SeFi-Image的主要功能

  • 文本到图像生成:只要给一段自然语言描述,模型就能生成对应的图像,支持中英文长文本。
  • 多规格模型:1B、2B、5B三种参数规模,用户可以根据自己的算力条件灵活选择。
  • 语义优先扩散:把语义结构与纹理细节分离,这样在复杂的几何关系和组合控制上效果更清晰。
  • 多领域支持:场景合成、富文本排版、动漫角色、风格化艺术,以及人像生成,都能覆盖。
  • 长文本渲染:对中英文长文本提示的支持很到位,LongTextBench上的表现就是最好的证明。

SeFi-Image的技术原理

  • 语义-纹理解耦架构:SeFi-Image把生成过程拆成两条独立的去噪轨迹——一条负责语义流,一条负责纹理流。
  • 时序偏移机制:模型引入了一个巧妙的时序偏移,让语义流提前一个时间步开始去噪,等于是先给纹理生成画好轮廓。
  • 三阶段生成流程:整个生成过程分为三个阶段:先做语义初始化,然后语义与纹理异步联合去噪,最后对纹理进行精修补全。
  • 重建-生成平衡:这种架构在提升纹理重建保真度的同时,也给扩散模型的训练增加了难度,从而在重建与生成之间找到有效的平衡点。
SeFi-Image – 开源的文本到图像模型,基于语义优先扩散

如何使用SeFi-Image

  • 获取资源:直接去SeFi-Image官网或arXiv页面,下载论文、开源代码,以及对应规格的模型权重文件。
  • 配置环境:在本地服务器或工作站上安装PyTorch等深度学习依赖,准备好与模型规模匹配的GPU显存资源。
  • 加载模型:把下载的1B、2B或5B模型检查点加载到推理框架中,完成权重初始化与参数设置。
  • 输入提示:编写包含场景描述、风格要求或文字内容的中英文文本提示,长文本和复杂组合描述都没问题。
  • 执行生成:运行语义优先扩散采样流程,模型会先完成语义结构去噪,再基于语义锚点进行纹理细节生成。
  • 输出图像:最后把去噪完成的潜变量通过解码器转换为像素图像,保存为所需分辨率与格式的输出文件。

SeFi-Image的核心优势

  • 精准结构控制:语义优先机制让模型能对复杂的空间组合和文本排版实现更精准的结构控制,效果比传统方法好很多。
  • 低训练成本:5B参数模型只用了125K A800 GPU小时就完成训练,用较低的算力成本达到了第一梯队的生成性能,这一点很关键。
  • 长文本领先:在长文本渲染评测中,SeFi-Image在LongTextBench上拿下了0.978分,显著领先于同类竞品。
  • 视觉文本准确:模型在CVTG-2K字符级视觉文本生成测试中达到0.895的准确率,生成的海报和标签具有高度可读性。
  • 多基准第一:SeFi-Image在GenEval、OneIG-EN等多项权威基准测试中均排名第一,全面性确实不错。

SeFi-Image的项目地址

  • 项目官网:https://jmliu206.github.io/sefi-web/
  • GitHub仓库:https://github.com/jmliu206/SeFi-Image
  • HuggingFace模型库:https://huggingface.co/SeFi-Image
  • arXiv技术论文:https://arxiv.org/pdf/2606.22568

SeFi-Image的同类竞品对比

对比维度SeFi-Image-5BQwen-Image
架构特点语义优先扩散,语义流与纹理流解耦,引入时序偏移机制常规扩散或自回归架构,未明确采用语义-纹理分离机制
GenEval0.88(第一)0.87
LongTextBench0.978(第一)0.945
CVTG-2K0.895(第一)0.829
DPG-Bench87.2788.32(第一)
OneIG-EN0.5606(第一)0.5390
OneIG-ZH0.53790.5480(第一)

SeFi-Image的应用场景

  • 广告海报设计:在广告与海报设计领域,SeFi-Image能生成包含清晰可读文字的品牌海报、产品菜单和商品标签,实用性很强。
  • 动漫角色创作:对于动漫与角色创作,模型支持生成动漫角色、奇幻场景以及全身或特写等多种构图形式。
  • 自然场景生成:在自然场景与景观生成方面,SeFi-Image可创作天气、城市、动物及自由宽高比的风景图像。
  • 艺术风格创作:模型支持插画、水墨、毛绒玩具、贴纸、素描等多种艺术风格,适合风格化视觉内容创作。
  • 人像摄影辅助:在人像与摄影辅助场景中,SeFi-Image能生成具有多样光照、姿态和材质的人像及环境肖像。
来源:https://ai-bot.cn/sefi-image/

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。