在经过长时间的内部打磨与技术验证后,商汤正式对外开源了日日新SenseNova-Vision——一个真正实现视觉理解与生成统一的视觉大模型。这算是日日新大模型体系在视觉能力上的重要升级,也是对过去几年“统一视觉”思路的一次重新定义。
过去行业说的“统一视觉”,其实更多是把检测、分割、深度预测这些专家模型打包在一起,各干各的。SenseNova-Vision做的,则是让视觉能力直接长在通用基础模型里,成为原生能力。这带来的直接变化是:所有经典视觉任务——目标检测、图像分割、深度预测、3D重建等——都在一个共享的底层框架下完成,不再依赖各自独立的任务头。
这种“原生融入”带来的好处是双向的。一方面,视觉领域过去几十年的高质量数据,可以直接反哺大模型底座的视觉理解能力;另一方面,大语言模型的推理能力也可以倒过来帮视觉任务融会贯通,甚至直接用语言去定义新任务。
在视觉AI这个赛道上,商汤已经连续十年是国内市场份额第一,今年又拿下了视频分析赛道全球和亚太市场的第一。SenseNova-Vision将这种行业积累的视觉能力,真正融入了统一多模态大模型体系。表面看是一次技术升级,本质上则是从“执行工具”向“世界理解模型”的跨越——它是真的在尝试看懂物理世界的逻辑,而不是简单地识别像素。
SenseNova-Vision在多项核心任务上实现了统一处理,包括结构化视觉理解、稠密几何预测、图像分割以及多视角视觉几何等。
01 复杂场景实测:自由指令下的“视觉读心术”
传统视觉模型遇到复杂、有干扰的场景时,很容易“抓瞎”。而SenseNova-Vision展现的泛化能力,可以说远超预期——哪怕是一些人类视觉都容易犯错的极端场景,它也能从容应对。
1. 零样本泛化:未知游戏“一秒读懂”。
面对训练集里根本没出现过的游戏画面,模型依然能在一瞬间完成表面法向估计、实例分割和角色关键点检测。而且不需要额外重训。这种跨域适应力,对影视、游戏和数字内容创作者来说,可以直接拉进工作流。
比如用《黑神话:悟空》的一张场景图做测试,模型对法向、分割、关键点的处理都相当自然。
2. 超稠密物体分割:重叠鱼群各显其形
遇到密密麻麻、高度重叠的鱼群、羊群,或者货架上东倒西歪的商品、俯拍的密集车辆,模型能做到外科手术式的精准剥离。哪怕颜色极度相近、边缘深度交织,依然能准确区分。这个能力对于工业计数、智慧仓储这类场景,带来了全新的解法。
货架上凌乱的商品、颜色交织的鱼群——模型的分割结果清晰、准确。
3. 看穿镜面反射:正确还原空间几何
在包含镜子、玻璃的复杂室内环境中,传统视觉模型往往会被镜中倒影误导。SenseNova-Vision能自动过滤掉反射影像的干扰,准确估计出镜中物体的真实空间方向与深度。它不是被虚拟反射牵着走,而是真正理解了三维空间几何的本质。
面对镜面场景时,模型能准确判断镜中人物的方向和深度。
4. 突破视觉错觉:不看表象,洞察空间本质
面对经典的借位摄影等视觉错觉图像,模型不仅能准确抠出被遮挡物体的完整轮廓,还能输出完全正确的表面法向估计。不被图案和借位欺骗,这背后其实是语言模型的推理能力与稠密几何预测的完美融合,也是模型在看懂物理世界层面上的具象体现。
模型正确判断了纹理形成的视觉欺骗,对透视成像的近大远小现象领悟得透彻,前景棉花人物和后景云朵也成功分离。
02 核心任务领跑:多项指标比肩专用专家模型
把视觉任务融入通用多模态生成后,专项能力不但没有被削弱,反而因为跨任务知识互补实现了明显提升。在多项权威评测中,SenseNova-Vision以“单模型”在四大核心视觉领域全面领跑,比肩甚至超越各领域的专用“专家模型”。
结构化视觉理解:在目标检测、指代检测、OCR、关键点定位等任务上全面领先同类型通用模型,尤其对稠密小目标检测、长尾类别识别等复杂场景表现更为突出。
稠密几何预测:深度估计、表面法向估计精度达到了几何专用模型的水准,在室内外多场景下都能保持极高稳定性。
分割能力:涵盖通用分割、推理分割、交互式分割等多个方向。凭借强大的多模态理解力,在推理分割与对话式分割上的表现尤为惊艳。
多视角3D几何:仅通过单模型即可高质量完成多视角点云重建与相机位姿估计,性能在通用视觉路线中处于领先位置。

核心指标评测中,SenseNova-Vision在各项视觉任务中均处于领跑地位。
横向对比来看:对比语义导向模型(如Youtu-VL等),SenseNova-Vision在检测、分割、深度等对细节要求极高的视觉任务上实现了全面领先。对比生成导向模型(如Vision Banana等),则展现出全面的代际优势:不仅核心指标在绝大多数评测中实现超越与领跑,任务能力也实现了倍增——Vision Banana只能覆盖四大核心板块中的“两类”问题,而SenseNova-Vision将结构化理解、稠密几何、全景分割、多视角3D等全任务一网打尽。再加上模型和数据全面开源,生态价值也更完整。

03 重构底层逻辑:从拼接到原生统一
长久以来,视觉AI沿着“一个任务对应一个模型”的路径演进,各个任务就像彼此割裂的孤岛。SenseNova-Vision打破了这种结构性瓶颈——它首次将所有视觉任务统一表述为通用基础模型可理解的多模态生成问题。不需要为不同任务设计专属预测头,直接在同一个共享的表征空间内,对文本、像素、语义信息和几何特征进行统一建模。

这种“大一统”的设计,带来了碘伏性的变化。
一是跨任务知识互补,实现1+1>2。联合训练激活了不同任务间的内在互补。深度估计的知识能强化语义分割的空间理解,分割能力又能辅助检测任务的边界判断,由此获得了单任务模型难以企及的抽象推理能力,从容应对未见过的任务与场景。
二是从“工具执行者”升级为“通用理解者”。统一范式重新定义了视觉智能的形态——模型不再是只能执行特定指令的工具,而是作为大模型的原生能力,成长为对视觉世界拥有通用、深刻认知的基础多模态底座。
SenseNova-Vision的发布和开源,验证了“统一多模态生成”这一全新路径的巨大潜能。它显著降低了视觉AI的应用门槛:开发者不需要再为不同任务维护多套模型体系,单个模型就能覆盖高频视觉需求,研发周期和部署成本都可以大幅压缩,特别适合复杂图像和开放场景下的视觉应用开发。
与此同时,商汤还同步开源了包含5000万条高质量样本的视觉指令语料库SenseNova-Vision Corpus-50M,为全球AI生态注入了更强劲的动力。
未来的规划也很清晰:商汤会把SenseNova-Vision的核心技术全面融入日日新U系列大模型中,持续探索更强大的统一多模态基座模型,朝着能更深刻感知、推理和交互物理世界的通用人工智能与世界模型迈进。
