本教程将带你系统了解北京智源人工智能研究院在2023年中关村论坛上发布的通用分割模型 seggpt(Segment Everything In Context),并深入对比 Meta 的 SAM 模型,帮助你快速掌握其核心原理与实用方法。
什么是 seggpt?
seggpt 是一个基于通用视觉模型 Painter 优化而来的通用分割模型。它最大的亮点在于,仅需通过 视觉提示(prompt) 即可完成任意分割任务,完全无需针对特定场景进行微调。你只需提供一张或多张示例图像及其对应的分割掩码(意图面具),seggpt 就能自动理解你的需求,并对同类物体实现精准分割。
seggpt 的核心能力
- 上下文推理:seggpt 拥有强大的上下文理解能力。即便不进行任何参数调整,只要给出 示例(示例图像 + 目标掩码),它就能自主推理并完成相应的分割任务,实现零样本分割。
- 多类型分割支持:可处理的提示类型涵盖 示例、类别、部件、轮廓、文本、面部、医疗图像 等多种场景,几乎覆盖所有常见视觉任务。
- 自动视频分割与追踪:seggpt 以视频首帧的图像和对象掩码作为上下文,可自动分割后续帧中的同一对象,并利用掩码颜色作为对象 ID 实现多目标自动追踪。
seggpt 与 Meta SAM 的主要区别
Meta 推出的图像分割基础模型 SAM 采用 “一触即通”(one-touch) 方式:用户通过一个点或一个边框来提示模型,预测并分割出画面中的特定物体。而 seggpt 采用的是 “一通百通” 方式:用户只需提供一组示例图像及对应的意图掩码,模型便能掌握用户意图,并据此对同类物体进行分割——即使物体出现在完全不同的画面中也能精准识别。
简单来说:SAM 擅长在精确提示下进行单物体分割,seggpt 则擅长理解用户意图后实现批量、同类物体的统一分割。
seggpt 与 SAM 的协同价值
“一触即通”与“一通百通”的结合,意味着视觉模型真正理解了图像的结构。在像素排列层面,SAM 的精细脚注功能 与 seggpt 的通用分割脚注功能 相互补充后,可以像生物视觉一样分析任意图像,理解任何场景。
