大厂们正批量购置高性能GPU资源，云端AI的硬件基础已经打得相当扎实，就连手机这类高算力端侧设备，也已经被AI辐射到了。但别忘了，还有数量更庞大的端侧设备——算力有限的IoT设备，它们又该如何接入AI？这就不得不把目光投向TinyML了。 **小体量的机器学习** 那么，要在那些超低功耗的MCU或传感器上玩转AI，具体该怎么做？这就催生了TinyML这样一个专门的研究领域。这里说的“超低功耗”，最低能到mW级别，直接打破了以往定义智能设备的能耗门槛。毕竟，大部分MCU的主频连1000MHz都不到，内存和存储空间更是捉襟见肘，根本塞不下那些动辄上亿参数的大模型。 不过别误会，TinyML虽然跑在“穷酸”的硬件上，但所需的AI计算量本身并不少。它拼的不是蛮力，而是巧劲。厂商得从模型大小、处理器架构效率这些软硬结合的点上找突破口。比如TensorFlow Lite、PyTorch Mobile这类轻量级框架，或者针对机器学习优化过的CPU内核、辅助计算的NPU，都是常用的手段。 目前，TinyML的应用主要集中在三大感知领域：视觉、音频和振动。视觉方面，物体识别、人体姿态识别、深度识别这些，在MCU上其实早就有了，但TinyML能进一步强化识别能力和效率，而且它的学习能力让它不再局限于固定的几个识别目标。音频领域就更实用了——除了关键词识别、自动通话识别这些基本功，TinyML还能在不依赖额外硬件或云端的情况下，完成降噪、机器翻译等操作。至于振动相关的应用，更多集中在工业领域，像是人物活动识别、电机控制、预测性维护等等，都是TinyML的拿手好戏。 **TinyML的边缘生态** 作为MCU市场的主导架构，Arm很早就开始布局TinyML，与高通、谷歌等厂商展开了合作。他们也推出了Cortex-M55、Ethos-U55/U65这类处理器，专门为面积受限的低功耗芯片提供计算辅助。 这些年，不少Arm MCU厂商在架构和IP的内卷中，也敏锐地嗅到了边缘AI的商机，纷纷切入TinyML的开发。意法半导体、瑞萨、兆易创新、澎湃微，都是这条赛道上的玩家。比如瑞萨，就基于RA6T2这样的电机控制MCU，凭借TinyML和自家的Reality AI软件，硬是实现了无传感器的预测性维护。这不是画饼，技术路线已经跑通了。在RISC-V架构这边，同样有博流智能、嘉楠科技等厂商在发力。 为了追赶进度，收购也是常见的打法。比如Nordic Semiconductor最近收购了Atlazo，这家公司就是专门做TinyML处理器、IP和传感器接口开发的。Nordic计划在未来的SoC设计中集成这些技术，主要瞄准智能健康市场，比如心脏监测、血糖监测等。对了，前面提到的瑞萨Reality AI软件，其实也是通过收购得来的。 在软件开发上，国内也有矽速科技这样的厂商。他们在推出开源套件的同时，还提供了MaxiHub——一个专门针对边缘设备的模型在线训练分享平台；以及TinyMaix——一个面向MCU的超轻量级神经网络推理库，支持ARM和RISC-V的多种专用指令优化。 **写在最后** 从软硬件生态来看，边缘AI已经愈发成熟，也注定是MCU等低功耗半导体厂商的必由之路。但必须明确的是，想让边缘端直接运行大模型，还需要时间。手机这类设备天生具备算力和连接优势，但绝大多数边缘设备没有这个条件。所以，先从小的TinyML做起，一步步来，这才是脚踏实地的路线。