书接上文：

瑞萨嵌入式AI技术漫谈 · 嵌入式系统机器学习终极指南

4 实验室模型与真实世界部署

泛化能力与过拟合

在嵌入式机器学习系统中，模型能否在真实设备和实际工况下稳定运行，关键取决于其泛化能力。简言之，泛化能力是指模型对未见过的新数据仍能做出准确判断的能力；而过拟合则表现为模型在训练集上表现优异，但面对新样本时性能大幅下降。本质上，过拟合意味着模型学习到的并非任务本身的规律，而是训练数据中的偶然细节——例如背景噪声、特定设备特性，而非真正的“特征”。

实验室环境通常可控性高，采集的数据往往来源单一、噪声小、设备一致性高。这种数据容易让模型误以为“背景特征”即为任务特征，导致在实际现场环境中失效。常见的过拟合迹象包括：训练准确率接近100%，但外部验证集上表现不佳；更换环境或设备后，性能断崖式下跌；输入轻微扰动，模型输出即不稳定。

真实案例分析：智能手表振动识别研究

某研究团队通过超频智能手表传感器，成功识别出用户手持物体（如电动牙刷、订书机或方向盘）的振动。实验结果显示，多数分类准确率达到了100%。然而，仔细分析研究情景，可以发现其中存在不少过拟合的典型迹象：

• 训练集和验证集来自同一批设备，每类样本仅有一个来源；
• 数据采集在高度可控的实验室环境中进行；
• 验证阶段仅有17名受试者，且他们握持的是同一批设备，环境变化几乎可以忽略不计；
• 训练数据在验证过程中被重复使用；
• 样本量有限，未能覆盖真实世界中的各种场景。

这些迹象表明，模型几乎未接触过外部世界的自然变化，因此无法应对真实场景中的噪声、姿态差异或用户行为差异。因此，即使实验室准确率高达100%，其泛化能力仍存疑。

如何检测过拟合并评估泛化能力

要系统评估模型在从未见过数据上的稳定性，必须采用科学的验证方法。K-fold交叉验证是一种有效手段——它通过多轮训练与验证，确保每个数据片段都曾作为“未见过的数据”被评估过。

K-fold具体如何操作？将整个数据集平均分成K份，每轮选取其中1份作为验证集，剩余K-1份作为训练集。重复K轮后，模型在所有数据上都经历了一次独立验证，这样获得的性能评估更为可靠。

实际操作中，流程通常是：

• 将部分样本划为验证集；
• 在剩余数据上训练模型；
• 用验证集测试模型性能；
• 多轮重复，直至所有数据都轮流作为验证集。

相比训练准确率，K-fold验证结果更能反映模型的真实泛化能力。值得注意的是：

• 在训练集上表现极佳的模型，在K-fold中往往表现较差；
• 特征稳健、边界明确的模型，在K-fold中通常更可靠；
• 若模型在K-fold中性能持续不佳，则很可能已过拟合，需要重新审视模型复杂度或特征选择策略。

然而，即使K-fold交叉验证表现良好，也不能保证模型能顺利部署到真实环境。最终可靠性的判断仍需依赖真实世界数据的验证与反馈。

实验室验证与真实世界表现

实验室验证是嵌入式机器学习开发的必要起点，但实际部署环境的复杂性远超实验室的想象。嵌入式设备在真实世界中需面对各种不可控因素，而这些因素在实验室数据中往往无法体现，包括：

• 用户行为差异
• 设备个体差异与制造偏差
• 安装位置、方向、固定方式的变化
• 机械负载、速度、磨损等工况变化
• 背景噪声（工业振动、结构传递噪声、多源干扰）
• 温度、湿度、老化与长期漂移等环境因素

这些变量导致现实工况下的信号特征与实验室中的“理想化数据”存在显著差异，因此模型的真实表现可能与实验室测试结果相去甚远。

实验室结果为何不具有现实意义

研究人员曾尝试在不同房间采集数据以引入变化，但这些变化与实际使用条件相比仍显不足。例如：

• 工厂环境中的振动通常来自多个方向、多台设备叠加；
• 用户的自然动作充满随机性，远非实验室中的固定姿势；
• 设备在现实中无法长期保持严格对齐、牢固安装；
• 声学与机械环境会随时间、温度、设备老化而变化。

因此，尽管实验室准确率接近100%，模型却无法适应典型的真实场景——高噪声、多变工况、不同用户操作，其鲁棒性严重不足。

为何真实世界验证不可替代

真实部署是嵌入式ML系统验证的关键环节，其价值体现在：

• 真实世界会暴露实验室中无法发现的模型缺陷；
• 现场噪声、工况变化、安装差异是可靠性评估的重要组成部分；
• 只有通过真实反馈，才能完善模型，使其具备工业级的稳定性；
• 嵌入式平台受限于功耗和算力，实验设置往往无法复现这些限制。

以上述案例为例，实验室使用了超频的高带宽传感器实现高精度采样，但这在真实可穿戴设备中根本无法实现。高带宽采样会大幅增加功耗，导致设备续航严重不足。

5 成功应用嵌入式机器学习的关键要素

在嵌入式系统中部署机器学习模型是一项跨学科的工程任务，涵盖数据采集、模型训练、算法优化、软件集成、系统验证等多个环节。由于嵌入式设备通常受限于内存、算力、功耗和体积，传统的云侧技术路径无法直接套用。

本节总结在嵌入式平台成功构建机器学习功能所需的关键要素，并结合工程实践，提供一些可操作的指导原则。

数据采集、标注与构建模型

高质量的数据是嵌入式机器学习项目成败的首要因素。嵌入式系统的传感器数据通常噪声高、动态性强、场景依赖性强，因此模型必须在训练阶段充分暴露于真实世界条件下的数据中，使其学会应对目标变化、背景扰动和设备差异。

构建高质量数据集的最佳实践包括：

• 全面覆盖目标情境与背景变化：采集不同个体、不同行为、不同工况、多种安装方式与环境条件下的样本，使模型具备足够的泛化能力。
• 严格的真实标注（Ground Truth）机制：确保每段数据都有明确、可信的状态标注，避免错误标签导致模型全局拟合偏差。
• 数据一致性与质量控制：采集过程中监控采样率、时间戳同步性、信号溢出情况、无效段落等质量指标，确保数据可用性。
• 基于迭代的持续采集策略：初版模型训练后，部署到现场收集容易导致模型出错的样本，用于后续迭代优化，使模型不断适应真实场景。

像Reality AI Tools这样的工具，可以通过自动化数据审核、数据覆盖分析、时间覆盖分析等机制，帮助开发者识别采集盲区，补全缺失的数据维度。

示例：用于机器健康监测与预防性维护的AI

（以下姓名与细节已作修改和隐匿，以保护缺乏经验的当事方。）

例如，最近有位客户希望为制冷压缩机构建一套机器健康监测系统。他们希望提前检测制冷剂液位是否下降到会使压缩机面临风险的程度——即在压缩机损坏、过热或停机之前，预先识别问题。他们尝试使用振动数据进行检测，传感器是安装在设备上的小型多轴加速度计。

理想情况下，该客户应使用同一加速度计，在已知条件下收集多种数据：包括压缩机在不同正常负载条件下运行的大量样本，以及各种负载下制冷剂不足导致的不利运行状态的大量样本。这样，他们就能放心地使用算法和工具，因为数据充分代表了相关的运行状态，包括负载变化与不可控环境因素带来的正常波动。同时，数据中应包含不同类型的背景噪声，并且要有足够多的样本，以反映传感器与测量噪声。

然而，他们手中只有实验室环境下采集的10秒正常压缩机数据，以及10秒制冷剂不足的数据。实验室中的工程师或许能凭专业知识推理出这些差异如何应用到真实场景，但机器学习算法只能根据其“看到”的数据来学习。它会在训练样本之间做出完美区分，分类准确率达到100%，但这种结果可能无法泛化到真实世界。要考虑到所有可能的运行变化，最可靠的方式是：在数据中包含全范围的正常与异常状态，让算法通过示例学习，自行调整到最稳健的决策标准。

Reality AI Tools会利用多种特征发现方法和模型选择技术，自动完成这一过程。为了帮助检测并避免过拟合，工具还会使用K-fold验证对模型进行测试。该过程会不断重新训练模型，但保留部分训练数据用于测试，模拟模型在现场运行时的表现——即面对从未见过的新数据时的反应。K-fold验证的准确率几乎不会像训练数据上的“分类分离度”那么高，但它更能反映真实世界的性能——前提是训练数据能够代表真实世界。

模型测试、验证与可靠性要求

尽管机器学习理论与算法本身复杂度较高，但在现代工具链的支持下，其在嵌入式系统中的应用已变得可行。借助瑞萨电子的Reality AI Tools，开发者可以在从RL78（16位MCU）到RA/RX（32位MCU），再到RZ（64位MPU）的整个产品家族中，部署高度优化的机器学习模型，实现端侧智能推理。

然而，在将ML模块真正集成到嵌入式固件中时，仍需全面考虑测试验证、系统可靠性、算力资源以及迭代机制等关键工程因素。

（1）模型验证的多层次方法

在嵌入式系统中部署机器学习模型之前，必须进行多层次、系统化的验证，确保模型在真实部署条件下具备稳定、可靠且可预测的能力。验证训练集可以帮助开发者初步确认模型是否学到了有效特征，但结果往往无法反映真实世界的复杂性。

要更准确地评估模型在未见过数据上的表现，需采用K-fold交叉验证这类方法，通过反复训练与验证，使模型在多个数据子集上测试，有效识别潜在的过拟合。

此外，使用独立数据集进行验证，可以进一步评估模型对实验室之外数据的适应能力。而现场验证则是整个过程不可替代的一环——只有将模型部署到实际设备与真实工况中验证，才能确保其在噪声、姿态变化、设备差异或环境扰动等非受控因素下，依然能稳定输出。

（2）通过反馈迭代改进模型

真实世界中的边界情境、噪声特征与使用工况，很难在实验室中完全复现。因此，即使模型离线测试表现优异，也无法保证实际部署后第一次运行就完全稳定。所以，嵌入式机器学习项目必须依赖现场反馈进行迭代更新。

初版模型部署后，开发者应通过试点项目持续收集系统运行数据，尤其关注误判样本、异常情境以及模型在边界工况下的表现。将这些有代表性的“难例”纳入后续训练集，即可提高模型对复杂环境的适应能力。

Reality AI Tools通过“固定模型结构+参数更新”的方式，使开发者能够在无需重新验证整套固件的前提下更新模型参数，从而显著缩短迭代周期，让模型随着真实世界输入的不断变化而持续改进。

（3）嵌入式环境特有的测试要求

嵌入式系统的限制与运行模式，决定了模型验证必须超越传统算法层面的准确率评估，更强调系统可靠性与行为一致性。

在噪声扰动条件下保持稳定输出，在极端或边界情境下避免异常行为，在长时间运行或多次复位后维持一致的响应——这些都是嵌入式机器学习模块在产品级部署中必须满足的核心要求。

此外，嵌入式设备长期运行在有限功耗、严苛温度与机械压力等多种约束下，模型可能随着硬件老化或外界变化而产生性能漂移。因此，完整的验证流程需包括硬件在环测试（HIL）、寿命测试与压力测试等多项系统级测试手段，确保模型与设备在各类工况下都能维持可预测且可靠的行为表现。

小结

Edge AI与TinyML正在重塑嵌入式智能系统的设计模式，使企业能够在高度受限的终端节点上运行机器学习模型，构建具有实时性、隐私性与高可靠性的智能产品功能。它们代表着一种从云中心化智能向本地部署智能能力的关键迁移路径，使设备能在低功耗、低延迟和有限带宽条件下独立完成感知、识别与决策任务。

瑞萨电子的Reality AI Tools专为这类信号处理与嵌入式部署场景进行了深度优化，在模型开发的各个阶段——包括数据探索、特征发现、模型训练、性能验证与嵌入式代码生成——提供系统化支持。与传统方法相比，这些工具不仅能有效缩短研发周期，减少对算法经验的依赖，还能显著提升模型在真实世界环境中的稳健性。通过自动化特征提取和高度紧凑的模型生成机制，Reality AI Tools在应对数据变化性、环境噪声及设备差异方面展现出显著优势，使许多原本难以通过规则工程实现的检测任务成为可能。

依托Reality AI Tools与瑞萨电子MCU/MPU产品家族的深度整合，开发者可以在RL78、RA、RX和RZ等平台上快速构建高效、低资源占用的端侧推理模块，实现真正意义上的“本地智能”。这些能力降低了嵌入式机器学习方案的开发门槛，也为产品的规模化部署提供了可持续的路径，使智能功能能够在资源受限的设备上以更可靠、更经济的方式实现。

随着智能终端在工业、汽车、能源管理、消费电子以及IoT等领域的快速普及，边缘智能将在更多应用中扮演核心角色。结合先进的工具链与端侧优化能力，Reality AI为企业提供了一条从概念验证到产品量产的高效路径，使其能够构建更具竞争力、更具适应性的下一代智能系统。

下期预告：信号处理场景的AI-as-a-Service

点击可查看大图