你是否曾在图像编辑或人机交互场景中遇到过这样的需求:需要一条指令同时选中多个物体,或者指令所指的对象在图片中根本不存在?传统引用分割方法无法应对这些复杂情况。本文将带你深入理解由新加坡南洋理工大学研究者提出的广义引用分割(GRES)任务,以及配套的大规模数据集gRefCOCO和基准模型ReLA。
1. 传统引用分割(RES)的局限
传统引用分割(Referring Expression Segmentation,简称RES)是一项基础的视觉语言多模态任务。给定一张图像和一个描述该图像中某对象的自然语言表达式,RES旨在定位并分割出该目标对象。然而,传统RES存在两大核心缺陷:
- 不支持无目标表达式:如果输入的表达式在图像中没有匹配对象,传统RES的行为会变得不可控(往往会强制分割一个错误对象)。例如,图片中只有穿红色衣服的小孩,但用户输入“the kid in blue”,传统方法会错误地将红衣小孩分割出来。
- 不支持多目标表达式:大多数现有数据集(如RefCOCO)几乎不包含同时指向多个目标的表达式。用户需要分多次输入查询才能选中多个物体,效率低下。
