微型机器学习（TinyML）是机器学习领域的关键分支，专注于在资源受限、功耗极低的设备上运行人工智能模型。本教程将带你全面了解TinyML的定义、应用场景、硬件与软件要求以及核心优势，帮助你快速入门这一前沿技术。
微型机器学习（TinyML）是什么？一文读懂核心概念
机器学习（ML）本身通过神经网络算法（如图1所示）让计算机识别模式，广泛应用于物体识别、自然语言处理等领域。
图1. 感知器神经网络的可视化示例。图片来源 罗伯特·凯姆。
TinyML 可定义为ML的子领域，致力于在低成本且资源、功耗受限的设备上部署机器学习应用。其核心目标：以极致的方式将机器学习推向边缘，让电池供电、基于微控制器的嵌入式设备能够实时、低功耗地执行ML推理任务。这项工作涉及硬件、软件、数据科学和机器学习等多学科的交叉优化。
近年来，随着底层硬件与软件生态系统的逐步成熟，TinyML获得了更广泛的关注。
小提示：TinyML 的核心理念是“在极低成本与极低功耗下实现机器学习推理”，与传统云端ML追求的高性能路线形成鲜明对比。
TinyML 的典型应用场景
TinyML 已悄然融入日常生活，以下是一些常见应用：
- 唤醒词检测 — 如智能音箱监听“OK Google”或“Hey Siri”。
- 物体识别与分类 — 在小型摄像头中实时识别目标。
- 手势识别 — 通过加速度计数据判断手势动作。
- 音频事件检测 — 识别特定声音（如婴儿哭声、玻璃破碎声）。
- 设备监控 — 通过振动或声音分析预测设备故障。
一个广为人知的例子是 Google 和 Android 设备中的音频唤醒词检测：当听到“OK Google”时，设备会在DSP上运行一个仅14 kB的语音检测模型。类似的机制也用于其他虚拟助手。
图2. 唤醒词应用的组件示意图。图片由 闫志彤、韩卓伟 提供。
哈佛大学学生开发的TinyML应用还包括：公路上的鹿检测（物体识别）、基于音频的蚊子检测（音频识别）等。
常见问题：TinyML 与普通嵌入式 ML 有何不同？
普通嵌入式机器学习可能在性能更强的处理器（如树莓派）上运行，功耗通常在数瓦级别。而 TinyML 专为微控制器（MCU）设计，目标功耗低于1毫瓦，适合纽扣电池供电。
TinyML 硬件要求详解
TinyML 在硬件方面令人印象深刻，其目标是在极其有限的硬件上运行。被广泛称为“TinyML 之父”的 Pete Warden 在其著作中提出：TinyML 的功耗应低于1 mW。这个数字的意义在于：1mW 的功耗使设备能在标准纽扣电池上运行数月甚至一年。
从计算资源来看，TinyML 不依赖GPU、ASIC或高性能微处理器，而是依赖微控制器（MCU）和数字信号处理器（DSP）。这些设备通常基于 Cortex-M 架构，其典型资源上限为：
- RAM：几百 KB
- 闪存：几百 KB
- 时钟速度：数十 MHz
图3. TinyML 学习工具包示例。图片由 Arduino 提供。
此外，TinyML 设备通常还会包含传感器（如摄像头、麦克风）以及低功耗蓝牙（BLE）连接模块。
小提示：1mW 是一个严格的功率预算，这意味着硬件选型必须优先考虑功耗而非运算性能。常见的开发板如 Arduino Nano BLE Sense 就是专为 TinyML 设计的。
TinyML 软件：TensorFlow Lite Micro 框架
软件生态是 TinyML 成功的关键。当前最流行且最完善的框架是 TensorFlow Lite for Microcontrollers（TF Lite Micro）。它专为资源受限设备（尤其是 MCU）设计，是一个基于 Python 的环境，提供了从数据采集到模型部署的全套工具：
- 数据采集
- 预处理
- 模型架构设计
- 训练
- 评估
- 优化
- 量化
图4. TensorFlow Lite Micro 工作流程示意图。图片由 索米特拉·贾格代尔 提供。
量化（Quantization） 是 TinyML 实现低功耗、低资源占用的关键步骤。量化过程会降低模型权重和偏差的精度（例如从32位浮点降至8位整数），从而显著减小模型大小、加快推理速度并降低功耗——而对准确率的影响通常很小。
经过量化后的模型，通常在设备端使用 C/C++ 语言编写推理代码，以实现最小的运行时开销。
常见问题：量化一定会降低模型准确率吗？
不一定。大多数模型在量化后准确率下降小于1%~2%。通过训练时加入量化感知训练（QAT），可以进一步减小损失。对于许多分类任务，损失几乎可以忽略。
TinyML 的主要优势
TinyML 的核心优势在于可移植性。由于它能在廉价的微控制器上运行，并且功耗极低，我们可以将ML能力轻松集成到几乎任何设备中，包括物联网终端、可穿戴设备、智能传感器等。
此外，TinyML 的 本地计算 特性也带来了更高的安全性和隐私性——数据不需要发送到云端处理，这在涉及个人数据（如语音、图像）的物联网应用中尤为重要。
总结
通过本教程，你已经掌握了 TinyML 的基本概念、典型应用、硬件与软件要求以及核心优势。TinyML 正在开启嵌入式人工智能的新时代，让智能无处不在。在后续文章中，我们将深入探讨更技术性的细节，例如模型量化的具体实现、如何在 MCU 上部署模型等。