近年来,机器人视觉语言动作模型(VLA)取得了显著进展,叠衣服、倒茶、制作咖啡等复杂操作频繁出现在演示视频中。然而,仔细审视这些模型的实际表现,会发现一个尴尬的现实:大多数VLA本质上仍是“展台机器人”。在固定场景、固定布局、固定光照条件下效果惊艳,但一旦进入真正的开放环境,问题便暴露无遗——物体位置稍作移动、背景改变、光照变化,成功率就会急剧下降。更棘手的是,面对新任务时,往往需要重新收集大量示教轨迹才能让模型学会。
然而,这些问题只是表面现象。真正阻碍VLA走出实验室、迈向实际应用场景的,是以下两个更深层次的挑战:
- 组合泛化:模型如果学会了A、B、C三个技能,能否自动组合它们,完成A→B、B→C、C→A等串联操作?换言之,能否通过技能组合执行更复杂、更长程的任务?
- 小样本迁移:学习新任务时,是否每次都需要成百上千条演示数据?能否像人类一样,仅需几次甚至一次示范,就能掌握新技能?
当前VLA的主流范式大多将示教轨迹当作模板死记硬背,过度对齐原始轨迹,缺乏对“轨迹背后意图”的显式表征与推理。这正是它们在泛化和迁移方面频繁遭遇瓶颈的根本原因。
针对这一痛点,上海创智学院、上海交通大学和智动未来联合推出了一套全新方案——MINT。

MINT的核心思路非常清晰:机器人不应仅仅模仿“动作轨迹”,而应分层理解两件事——第一,在什么情况下应当触发怎样的抽象行为“意图”;第二,如何根据当前场景动态地“执行”这个意图。如果能够实现这一点,长期困扰VLA的泛化性和迁移性问题或许就能找到新的突破口。
频谱分解动作词元化

MINT的关键技术源于信号处理视角:动作轨迹本质上是一种时间信号,天然具有频谱结构。基于这一视角,论文提出了频谱分解动作词元化(SDAT)。
简单来说,SDAT将动作表征映射到多个尺度的词元上:最粗粒度(S1尺度)的词元主要负责表征低频信号,对应全局行为意图,论文称之为“Intent token”;更细粒度的词元(S2到SK尺度)则逐步补充高频执行细节,称为“Execution tokens”。从S1到SK尺度,词元数量逐渐增多,形成金字塔形状的词元表征体系。
那么,不同尺度的词元如何与低频、高频信号对应?MINT采用了以下技术手段:
- 残差学习:细尺度词元只学习粗尺度词元未能捕捉到的残差信息;
- 由粗到细的多尺度重建:每个尺度的前缀词元集合分别用于轨迹重建,确保尽可能完整地表征轨迹信息;
- 频域重建:MINT在频域空间计算轨迹重建损失,使低频信号和高频信号能被显式拆解,按需融入不同尺度的词元中。
这样一来,粗尺度词元专注于学习轨迹的大体形态,细尺度词元则专注于补充轨迹细节。分工明确,各司其职。
策略学习:“意图→执行”的逐步推理

在策略层面,MINT采用“Intent → Execution”的分层生成思路:先预测Intent token,再逐层生成Execution tokens,最后将多尺度词元解码为连续控制轨迹。这一由粗到细的过程本质上是在词元空间中进行分步推理——先确定要执行的抽象意图,再补充实现该意图所需的控制细节。这种设计不仅提升了学习效率,在长程任务中表现也更加稳定。
策略迁移:通过一次示教学会新任务

这是最有趣的部分。既然Intent token表示抽象的“行为意图”,它能否直接替代语言作为“任务表达”使用?答案是肯定的。
这意味着,对于全新任务,模型完全无需重新训练。只需提供一条示教轨迹,提取其Intent token,然后将该token注入策略生成过程,模型即可在相同推理框架下生成对应执行细节并完成任务。由于注入的是更抽象的意图而非整段轨迹细节,这种迁移方式在跨任务、跨场景时表现更加稳定。论文将此称为“通过意图词元注入实现的一次示教迁移”——这也是MINT最重要的创新点之一。
实验结果
一、基准任务性能:全面超越 SOTA 方法


在LIBERO、CALVIN和MetaWorld三个基准测试中,MINT的表现全面超越了当前SOTA方法:
- 在LIBERO上,30M参数的MINT-30M(不含预训练VLM)平均任务成功率达97.1%,大幅超越SmolVLA的88.8%;4B参数的MINT-4B(含预训练VLM)平均成功率达98.3%,超越π₀.₅的96.9%;
- 在CALVIN上,MINT-4B在长序列任务中表现尤为突出,性能显著超过SOTA,验证了其在长程执行中的稳定性;
- 在MetaWorld的“极难”类任务中,MINT-4B的成功率接近π₀的三倍,展现了在复杂长程任务中的显著优势。
二、泛化性:对抗分布外强扰动

为测试模型在分布外鲁棒性上的表现,作者在LIBERO上训练,然后在分布更广的LIBERO-Plus上评估,考察了相机视角、初始姿态、光照、背景纹理与视觉噪声等多类强扰动。结果颇为有趣:
- 面对相机视角变化时,MINT的性能损失远小于OpenVLA、π₀.₅等主流方法;
- 面对背景、布局、光照、视觉噪声等强干扰时,MINT依然维持了84.6%至96.6%的高任务完成率。
这些结果共同表明,“行为意图认知”对提升VLA的泛化性确实扮演着关键角色。
三、技能迁移:只需要演示一次


现有的迁移方法,无论是微调还是重扩散,在仅有单条示教轨迹的条件下都难以完成迁移。但MINT通过Intent token injection,却能稳定实现新任务和新场景的迁移:
- 对于新任务,MINT仅需一条示教轨迹即可达到90%的任务成功率——而通过微调迁移,成功率仅为42%;
- MINT还展现出组合泛化的潜力。例如,训练时只见过A和B两个技能,但通过一次演示,MINT就能直接完成A→B这样的组合任务。这在当前的VLA中是非常罕见的能力。
四、真机验证:物理世界的高效落地
研究团队进一步在真实的Piper-X 6DoF机械臂上进行了真机实验。训练任务包括抓放香蕉、堆叠积木、插马克笔等,每个任务仅提供20条示教轨迹用于模型后训练。测试任务还包括一个从未见过的叠杯子任务,用于测试零样本泛化能力。


结果显示:
- MINT-4B的整体成功率相比π₀.₅等主流VLA模型提升了29%;
- 在叠积木、插马克笔等任务中,MINT-4B表现出更强的精确操作能力;
- MINT能够将“堆叠”这一抽象意图从叠积木任务迁移到从未见过的叠杯子任务上——而π₀等方法几乎无法完成该未见任务。
这些真机结果进一步证实:MINT学到的已不是单纯的轨迹,而是真正可迁移的行为结构。

