自主机器开发的痛点与NVIDIA OSMO的破解之道

自主机器开发，说白了，就是一个数据生成、收集、模型训练和部署不断循环迭代的过程。这背后，是一个跨异构计算资源的、复杂到令人头疼的多阶段、多容器工作流。

这其中牵扯的团队可不少，每个团队都需要共享计算资源，而且这些资源还往往是异构的。更有挑战性的是，团队想把一部分工作负载扩展到云端，但这通常需要深厚的DevOps知识，另一边还得在本地维护着其他工作负载。这种“两头都要抓”的处境，确实挺考验人的。

关键问题在于，一直以来，都没有一个统一的平台，能让开发者轻松地提交他们需要的计算工作负载。开发者得自己协调各种资源，效率自然大打折扣。

不过，在最近的GTC大会上，NVIDIA带来了一个解决方案——OSMO。这是一个云原生的工作流编排平台，它提供了一个单一界面，用于跨异构共享计算环境，调度和管理各种自主机器工作负载。这些工作负载包括：

• 合成数据生成 (SDG)
• DNN 训练和验证
• 强化学习
• SIL 或 HIL 中的机器人 (再) 仿真
• 基于 SIM 或真实数据的感知评估

跨异构共享计算，部署复杂工作流

借助OSMO统一的计算资源调度能力，你可以轻松地在Kubernetes集群上部署并协调多阶段工作负载。这其中就包括了共享的、异构的多节点计算资源，比如aarch64和x86-64架构，确保了跨不同架构的灵活性和兼容性——这意味着你不用再为架构不匹配而头疼了。

设置工作负载也变得更简单。你可以通过YAML文件轻松定义多阶段、多节点的任务，从而简化从数据生成、模型训练到模型验证的端到端开发流程。此外，OSMO还能集成到现有的CI/CD工作流中，动态调度那些需要定时执行的任务，比如夜间回归测试、基准测试和模型验证等。

在安全与合规方面，OSMO利用了OIDC这类开放标准进行身份验证，并支持通过一键式密钥轮换来实现凭据和数据集安全的最佳实践。对于团队来说，开发过程中的版本管理和数据追溯也成了现实——你用于模型训练的所有数据，其来源和版本都能被清晰追踪。这一功能对于保证实验的可重复性来说，价值巨大。

本地部署与云端SDG工作负载的协同

合成数据生成（SDG）这个环节，尤其适合分布式环境。通常，它会从本地开始，先生成较小批量的数据来快速验证想法。但当需要大规模生成数据时，就必须借助云来实现弹性扩展。OSMO的弹性资源调配能力，在降低SDG这类离线批量流程的成本上扮演了关键角色，实现了既高效又经济的大规模数据生成。

SIL与HIL测试的高效运行

OSMO支持的另一个重要工作负载是软件在环（SIL）机器人测试。这涉及仿真多传感器、多机器人场景，或者运行一系列测试场景。这些场景对计算资源的可访问性要求很高，云环境自然是最佳选择。OSMO能够跨分布式环境调度和管理工作负载，确保充分利用云资源的可扩展性和可访问性，从而高效执行SIL测试。

但硬件在环（HIL）测试就不同了。由于特定机器人或机器硬件的可用性，这类测试通常需要本地部署。

有意思的是，HIL测试对异构计算的需求是刚性的。因为仿真和调试这类工作负载通常需要x86架构，而测试软件本身却需要在aarch64架构上运行，才能提供其他方式无法实现的准确性能和硬件功能。直接在目标硬件上运行HIL测试，还能减少对昂贵仿真器的依赖，这无疑是一个更经济实惠的选择。

基础模型的同步生成与训练

OSMO还支持GR00T这类基础模型。这类模型的开发模式很特别：它需要在NVIDIA DGX上进行模型训练，同时，在OVX上进行实时的强化学习。整个工作负载就像一个闭环，在循环中迭代式地生成和训练模型。

OSMO的用武之地就在于，它能够跨分布式环境管理和调度这些工作负载，实现DGX和OVX系统的无缝协调，从而让迭代式的模型开发流程变得异常高效。

图 1. NVIDIA OSMO 用于 GR00T 基础模型

数据沿袭：让每一步都可追溯

数据沿袭和管理，对于模型审计和确保整个开发过程的可追溯性来说，至关重要。借助OSMO，你可以追溯从数据源头到最终训练模型的全过程数据沿袭，这提供了开发过程中必不可少的透明性和可靠性。

此外，通过OSMO，你还能轻松管理大型数据集和创建数据集，实现高效的数据组织和分类。这包括管理真实数据集、合成数据集或混合数据集的能力，让你能灵活地控制用于模型训练和评估的数据集类型。从数据管理到模型验证，整个链条都变得更加清晰可控。