零样本理解《我的世界》、破解镜面反射难题,国产统一视觉模型实现跨代突破!
近日,商汤科技正式发布并全面开源了日日新SenseNova-Vision理解生成统一视觉大模型。这一消息在行业内引发了广泛关注与讨论,因其试图宣告一个事实:视觉AI领域“碎片化拼凑”的时代,即将被彻底终结。
截至目前,该模型在Hugging Face Any-to-Any Leaderboard上以综合得分全球第一的成绩强势登顶,荣膺这一全模态任意输入输出开源模型榜单的榜首位置。

▲SenseNova-Vision在Hugging Face平台上的排名表现
谈及视觉AI,在过去的很长一段时间里,目标检测、图像分割、深度预测乃至3D重建等任务,基本上都是各自为战。每项任务都需要独立的专家模型,导致系统架构日益复杂且相互割裂。这种“模型拼盘”式的架构,在面对复杂且充满干扰的真实世界场景时,往往力不从心,甚至可以说会“彻底失效”。
而SenseNova-Vision的诞生,正是为了打破这一僵局。它试图让大模型从诞生之初,就天然具备“看见”与“理解空间”的本能,甚至能够通过自然语言来定义自身需要执行的任务。
根据同步发布的技术报告,SenseNova-Vision凭借单一模型,就涵盖了结构化视觉理解、稠密几何预测、图像分割与多视角3D几何这四大核心任务。在与一些备受关注的国际领先模型(如Vision Banana)的对比中,其在多项可比指标上取得了显著领先优势,且任务覆盖范围更为全面。

▲SenseNova-Vision在四大核心视觉任务的各项细分指标中,均展现出强大竞争力
更值得关注的是,商汤此次不仅开源了模型与代码,还一并提供了包含5000万条样本的开源视觉语料库。一个延续数十年的产业范式,正在被悄然改写。视觉AI,是否也即将迎来属于自己的“GPT时刻”?
告别“碎片化拼凑”:让大模型原生学会“理解物理世界”
要理解这一突破,首先需要厘清一个问题:视觉AI为何长期难以摆脱“拼凑融合”的宿命?
原因其实相当直接——不同视觉任务的输出形式存在天壤之别。检测任务需输出边界框坐标,分割任务要输出像素级掩膜,深度估计需提供稠密深度图,而3D重建则要生成点云与相机位姿。过去的技术路线,只能针对每种输出设计专门的算法头、损失函数和解码规则,结果导致视觉领域的研究天然分裂成一个个互不连通的“孤岛”。
SenseNova-Vision所走的“大一统”路线,实现了两个层面的根本性变革。
首先是任务本质的统一。它将检测、分割、深度、3D重建等众多经典视觉任务,统一表述为多模态生成问题,不再为每项任务设计专属模型架构。这意味着,模型不再是执行特定指令的机械式“工具箱”,而是将视觉空间理解能力作为原生本能,内化于大模型体系之中。

▲SenseNova-Vision架构示意
其次是能力上的双向增益。这形成了一种“数据”与“思维”的双螺旋结构:
一是数据反哺大模型:视觉领域数十年积累的海量高质量工业级数据,可直接用于“喂养”大模型。检测数据教它定位,分割数据教它区分边界,深度数据教它感知远近,这些数据在统一的生成框架下被大模型完全吸收。
二是推理赋能视觉任务:大语言模型强大的泛化推理能力反向输出,让视觉任务“拥有了智慧”。模型不再局限于执行预设任务,开发者甚至可以通过一句自然语言,自主定义一个在训练中从未被明确列出的全新视觉任务。
在与研究者的交流中,也透露出这项工作的哲学意义:计算机视觉曾经处于深度学习研究的核心位置,在涌向AGI的时代洪流中,它又该扮演怎样的角色?SenseNova-Vision所展示的,正是将计算机视觉融入AGI主线的可行性。视觉AI不再是孤立的岛屿,而是正式并入轨道,成为通往通用人工智能(AGI)的主线任务之一。
直面全球顶尖:四大任务,一个模型通盘搞定
SenseNova-Vision所展现的泛化能力,已超越了传统“工具”的范畴,初具“世界理解模型”的雏形。在多个极端或复杂场景下,它对传统模型形成了代际上的领先优势。
评测数据表明,SenseNova-Vision在四大核心视觉任务上,凭借单一模型的力量,足以比肩甚至超越各领域的专用“专家模型”。与国际领先的同类型模型Vision Banana相比,后者的技能点主要集中在两类任务上,而SenseNova-Vision则实现了全任务覆盖,并在多项可比指标上取得领先。

▲在与Youtu-VL和Vision Banana的横向对比中,SenseNova-Vision在各项核心指标上表现优异
然而,数据终究是冷冰冰的。模型在几个物理世界极端场景下的泛化表现,反而能更直观地展现其代际优势。
1、零样本“秒懂”我的世界
面对训练集中从未出现过的画面——例如游戏“我的世界”的场景,SenseNova-Vision无需任何微调,即可快速同步完成表面法向预测、实例分割与目标检测。这意味着,影视与游戏创作者可以直接将其应用于工作流,无需为每个新场景重新训练模型。

▲零样本场景下,模型对复杂游戏画面的多任务同步解析
2、告别“密集恐惧”:超稠密物体实现“剥离式”分割
在颜色极度接近、边缘深度交织的密集场景中,传统模型往往难以区分个体。而SenseNova-Vision能够像外科手术般精准地将每个独立个体分离出来,为工业计数、智慧仓储等场景提供了高精度的“上帝视角”。

▲对规整堆叠的钢管实现了准确分割,目标轮廓清晰完整,边界分明,相邻钢管之间区分明确;可视化结果布局规整,预测颜色具有足够辨识度。

▲相较于规整堆叠的钢管,该场景中的钢筋姿态各异、排列复杂,模型仍能准确识别并完整分割各个目标,同时有效区分扎带、稻草等干扰物,避免误判。
3、免疫“视觉欺骗”:不被误导的3D空间推理
在借位摄影等视觉错觉图像中,传统模型往往会做出错误判断。而SenseNova-Vision不仅能准确抠出被遮挡物体的完整轮廓,还能输出完全正确的表面法向估计。它不被图案和借位所迷惑,这正是语言模型推理能力与稠密几何预测完美融合的具体体现。





▲面对极具迷惑性的借位与3D视觉错觉图案,模型仍能准确还原场景的远近关系与空间层次,并正确解析真实物理表面的朝向与结构,不受视觉错觉干扰。
4、识破“镜花水月”:穿透反射迷局
在包含镜子、玻璃的复杂室内环境中,传统视觉模型极易被镜中倒影欺骗,难以区分虚实。SenseNova-Vision能够自动过滤反射干扰,准确估计镜中物体的真实空间方向与深度关系,展现了对三维空间几何本质的深刻理解。


▲面对镜面反射,模型能准确估计真实的方向与深度
视觉AI走向基础设施,产业逻辑正在重塑
除了技术突破本身,更值得关注的是产业逻辑的深刻变化。
长期以来,视觉AI的落地应用一直遵循“一场景、一模型、一开发”的重资产、项目制模式。例如,智慧工厂需要缺陷检测就部署检测模型,需要产品计数就部署分割模型,需要识别空间位置就部署深度模型。这种模式不仅边际成本高昂,也限制了视觉AI在中小规模场景中的渗透推广。
SenseNova-Vision所指向的,是一种平台化能力复用的全新范式。开发者无需再为检测、分割、深度、3D重建分别构建和维护多套模型体系,单个模型即可覆盖绝大多数高频视觉需求。这种“大一统”模式大大缩短了研发周期、降低了部署成本,尤其适用于复杂图像与开放场景下的视觉应用开发。
商汤的产业积累为此次发布提供了独特的底气。官方资料显示,商汤已连续十年蝉联中国视觉AI市场份额第一,并于2025年首次登顶视频分析赛道全球市场份额第一及亚太地区市场份额第一。十余年间,商汤在工业质检、自动驾驶、智慧零售等数十个细分领域中积累的场景理解与数据,为模型训练提供了关键燃料。
此次开源更是一个关键信号。模型、代码、训练配方以及5000万条高质量语料样本全部开放,意味着全球开发者可以基于这套框架验证结果、复现实验并继续深入研发。商汤还提供了完整的转换规则与脚本,社区可利用公开数据集重现完整的训练流程。这种开放程度在视觉模型领域极为罕见。
结语:剑指物理世界,视觉AI的“大航海时代”正式启航
曾有人将AGI分为三个层级:
-第一层是文字或符号级别的AGI,以大语言模型和智能体为代表;
-第二层是Computer Use级别的AGI,计算机世界已成为这个时代的“语言”,视觉是不可或缺的能力;
-第三层是能够在真实世界中观察、思考、交互的最终AGI——“以哈勃望远镜和冷冻电镜为眼,以星舰为载具,以计算中心为大脑,帮助人类通向更广袤的未知。”
而SenseNova-Vision瞄准的,正是向第二层与第三层跨越的关键:让AI真正“看懂”并“理解”物理世界。
其意义不仅在于“一个模型顶替多个使用”,更在于将经典计算机视觉数十年的全部积累,以统一多模态生成的方式接入通用基础模型,使视觉感知成为大模型的原生组成部分。
这条路能走多远,取决于接下来社区如何接力、场景如何验证、规模如何扩展。但方向已然清晰:视觉AI的“大航海时代”,或许就从告别“碎片化拼凑”的这一刻真正开启。
