游乐游手机版
首页/AI热点日报/热点详情

商汤开源SenseNova-Vision,超越Vision Banana,视觉任务大统一,经典视觉并入大模型

类型:热点整理2026-07-17
商汤开源日日新SenseNova-Vision,首次将目标检测、图像分割、深度预测、3D重建等经典视觉任务原生统一融入大模型,实现跨任务知识互补与零样本泛化,在多项评测中比肩专用模型,并全面开源模型与数据集。

商汤开源 SenseNova-Vision:视觉任务大统一,经典视觉并入大模型

今天,商汤科技正式发布并全面开源日日新 SenseNova-Vision 理解生成统一视觉大模型,这是商汤日日新大模型体系的重要视觉能力升级。行业以往的“统一视觉”多是把检测、分割、深度预测等多个专家模型打包封装,本质还是割裂的。SenseNova-Vision 的核心变革是:让视觉成为通用基础模型的原生能力,彻底融入大模型体系。所有经典视觉任务如目标检测、图像分割、深度预测、3D重建等,由此都实现了原生统一。

GitHub: https://github.com/OpenSenseNova/SenseNova-Vision

核心变革:原生融入的双向增益

这种“原生融入”带来了双向增益:

  • 数据反哺:视觉领域几十年的高质量数据直接提升大模型底座的视觉理解能力。
  • 思维赋能:大语言模型的推理能力反过来让视觉任务融会贯通,甚至能用语言直接定义新视觉任务。

在视觉 AI 领域,商汤已连续十年蝉联中国视觉AI市场份额第一,并在2025年首次登顶视频分析赛道全球市场份额第一,及亚太地区市场份额第一。SenseNova-Vision将这种行业领先的视觉能力,融入统一多模态大模型体系,代表了视觉 AI 能力的跨越式演进。依托原生统一的技术路线,模型实现了从“执行工具”向“世界理解模型”的本质蜕变,不仅真正看懂物理世界的逻辑,更为AI在物理世界的广泛应用与深度交互构建全新的通用底座。

商汤SenseNova-Vision

商汤日日新SenseNova-Vision能够原生统一地实现结构化视觉理解、稠密几何预测、图像分割以及多视角视觉几何等多项核心任务能力。

复杂场景实测:自由指令下的“视觉读心术”

传统的视觉模型往往只能“各司其职”,而且遇到复杂、有干扰的场景就会“抓瞎”。得益于原生通用底座带来的智能涌现,SenseNova-Vision在面对人类视觉都容易犯错的极端场景时,展现出了惊人的泛化能力:

1. 零样本泛化:未知游戏“一秒读懂”

面对训练集中从未出现过的游戏画面,模型展现出了强悍的跨域适应力。在语言推理与原生视觉能力的交织下,它无需任何针对性重训,就能在一瞬间同时对画面中的表面法向、实例分割以及角色关键点检测进行无缝且精细化的处理。影视、游戏和数字内容创作者可以直接将其投入工作流。

黑神话悟空场景理解1 黑神话悟空场景理解2 黑神话悟空场景理解3 黑神话悟空场景理解4

以游戏《黑神话:悟空》的一张场景图为例,模型能对法向、分割、关键点等进行较好的处理(可点击查看大图)。

2. 超稠密物体分割:重叠鱼群各显其形

面对密密麻麻、高度重叠的鱼群、羊群,或是货架商品、俯拍车辆等极度稠密的场景,模型能够像外科手术般精准地将每个独立个体剥离出来。即使颜色极度相近、边缘深度交织,也能准确区分。这为工业计数、智慧仓储等场景提供了全新的解法。

鱼群分割 货架商品分割

以颜色重叠的鱼群、货架上东倒西歪的商品为例,模型能进行清晰、准确的分割。

3. 看穿镜面反射:正确还原空间几何

在包含镜子、玻璃的复杂室内环境中,传统视觉模型极易被镜中的倒影误导。而SenseNova-Vision能够自动过滤反射影像的迷局,准确估计出镜中物体的真实空间方向与深度关系。它不被虚拟的反射所欺骗,展现出对三维空间几何本质的深刻理解。

镜面反射1 镜面反射2 镜面反射3 镜面反射4 镜面反射5 镜面反射6

以镜面为例,模型能准确估计镜子里人的方向和深度。

4. 突破视觉错觉:不看表象,洞察空间本质

在充斥着视觉错觉干扰的图像中(例如经典的借位摄影),模型不仅能准确抠出被遮挡物体的完整轮廓,还能输出完全正确的表面法向估计。它不被图案和借位欺骗,正是语言模型的推理能力与稠密几何预测完美融合、看懂物理世界的具象体现。

视觉错觉1 视觉错觉2 视觉错觉3

模型能正确判断纹理形成的视觉欺骗。

透视错觉1 透视错觉2 透视错觉3

模型对于透视成像的近大远小现象领悟的非常透彻,完全没有被误导。

前景后景分离1 前景后景分离2 前景后景分离3

前景棉花人物和后景云朵成功分离。

核心任务领跑:多项指标比肩专用专家模型

当视觉任务融入通用多模态生成后,不仅没有削弱专项能力,反而通过跨任务知识互补实现了性能飞跃。在多项权威评测中,SenseNova-Vision以“单模型”在四大核心视觉领域大范围领跑,比肩甚至超越了各领域的专用“专家模型”

  • 结构化视觉理解:在目标检测、指代检测(Referring)、OCR、关键点定位等任务上全面领先同类型通用模型。在稠密小目标检测、长尾类别识别等复杂场景下表现尤为突出。
  • 稠密几何预测:深度估计、表面法向(Surface Normal)估计精度达到几何专用模型水准,在室内外多场景下均能保持极高的稳定性。
  • 分割能力:涵盖通用分割、推理分割、交互式分割等。得益于强大的多模态理解力,其在推理分割(Reasoning Segmentation)与对话式分割(GCG Segmentation)表现上惊艳。
  • 多视角3D几何:仅通过单模型即可高质量完成多视角点云重建与相机位姿估计,性能在通用视觉路线中处于领先位置。
核心指标评测对比

核心指标评测:SenseNova-Vision(深紫色柱状)在各项视觉任务中均处于领跑地位。

横向相比优势显著

  • 对比语义导向模型(如Youtu-VL等):SenseNova-Vision在检测、分割、深度等对细节要求极高的视觉任务上实现全面领先
  • 对比生成导向模型(如Vision Banana等):展现出全面的代际优势
    • a. 核心指标超越:在各项权威评测的硬核对决中,SenseNova-Vision 在绝大多数指标上均实现了对 Vision Banana 的超越与领跑。
    • b. 任务能力倍增,且全面开源:展现出更强的多任务泛化实力。如 Vision Banana 仅能应对四大核心板块中的“两类”问题,而 SenseNova-Vision 却能同时将结构化理解、稠密几何、全景分割、多视角 3D 等全任务一网打尽。在此基础上SenseNova-Vision还做到模型、数据全面开源。
横向对比图示

重构底层逻辑:从拼接到原生统一

长期以来,视觉AI沿着“一个任务对应一个模型”的路径演进,各个任务是彼此割裂的孤岛。SenseNova-Vision彻底打破了这种结构性瓶颈,首次将全部视觉任务,统一表述为通用基础模型可理解的多模态生成问题。它不需要为不同任务设计专属预测头,而是直接在同一个共享的表征空间内,对文本、像素、语义信息和几何特征进行统一建模。

原生统一架构图

这种“大一统”的设计,带来了碘伏性的变化:

  • 跨任务知识互补,实现1+1>2。模型联合训练,激活了不同任务间的内在互补。深度估计的知识能强化语义分割的空间理解,分割能力又能辅助检测任务的边界判断,从而获得了单任务模型难以企及的抽象推理能力,从容应对未见过的任务与场景。
  • 从“工具执行者”升级为“通用理解者”。统一范式重新定义了视觉智能的形态。模型不再是只能执行特定指令的工具,而是作为大模型的原生能力,成长为对视觉世界拥有通用、深刻认知的基础多模态底座。

商汤SenseNova-Vision的发布和开源,成功验证了“统一多模态生成”这一全新技术路线的巨大潜能。它显著降低了视觉AI的应用门槛,开发者无需再为不同任务维护多套模型体系,单个模型即可覆盖高频视觉需求,从而大幅缩短研发周期、降低部署成本,尤其适合复杂图像、开放场景下的视觉应用开发。

来源:https://mp.weixin.qq.com/s/Sw-6BYkBb4cMNMNYRPbhUw

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。