作者 | Ari Kamlani

混合人工智能（Hybrid AI） 正在成为推动边缘计算发展的关键技术。它融合了数据驱动的机器智能与符号推理能力，帮助设备在资源受限的网络边缘做出更智能、更可靠的决策。本文将从边缘计算系统的演进出发，深入解析混合AI如何突破传统机器学习的局限，为物联网等场景带来全新可能。

01 边缘计算系统正在不断发展

边缘系统的核心特征与挑战

边缘系统的设计通常面临 不同且有限的计算处理、存储和内存、网络连接 等诸多限制。边缘计算将数据处理下沉到数据被感知、生成和执行的地方进行本地处理。在某些情况下，它虽然类似于云功能，但可以通过边缘网关进一步扩展，以提供低延迟和高带宽利用率。

硬件设备的广泛范围

在整个边缘计算范围内，硬件系列涵盖：

• 资源受限的超低功耗裸机设备：如RTOS微控制器（例如ARM Cortex-M）
• SoC应用微处理器：如ARM Cortex-A，常用于智能手机和平板电脑
• 原始设计制造商/原始设备制造商（ODM/OEM）许可的应用程序配置文件目标：通常出现在连接外部微控制器、传感器、驱动器或基带处理器的应用处理器中
• 先进的专用AI翻跟斗ASIC设备：专为处理高性能AI操作指令和支持最先进的模型（SOTA）而设计

AI模型的部署与优化

尽管硅的应用落后于AI研究，但它带来的性能提升间接改善了用户体验。在生命周期开始前，许多SOTA AI模型需要进一步优化和压缩，以避免性能下降。随着领域发展，将模型部署到嵌入式设备已经转向 嵌入式系统范式——在目标主机上交叉编译代码。用户可以通过 中间格式（MLIR） 和 Runtime执行环境 来编译和优化处理器目标与设备执行，而不是部署较小的参数化抽象模型，从而换取目标性能。这也与提供更低的延迟和改善的用户体验有关。