AI边缘计算的核心挑战与专业解决方案

现在几乎所有高端智能手机的图像处理子系统都集成了神经网络。语音记录和语音处理专家会争辩说，我们现在所说的人工智能已经在边缘运行了多年。然而，在大多数情况下，这些应用程序利用了并非为现代AI工作负载设计的SoC和DSP。随着人工智能技术和部署的进步，一些新的工程挑战出现了。本教程将深入分析这些挑战，并介绍业界领先的解决方案，帮助您理解如何构建真正生产就绪的AI边缘计算设备。

三大关键挑战概述

当前AI边缘计算面临的核心挑战主要集中在以下三个方面：

• 始终在线的超低功耗：系统需要长时间依靠电池供电，同时为推理提供快速响应时间。
• 集成安全性：保护机器学习图免遭篡改或盗窃。
• 灵活性与可适应性：解决方案需要能够适应AI模型和算法的快速变化。

这些趋势提高了IP和处理器供应商的风险，这些供应商希望为嵌入式AI市场提供服务，预计到2024年，该市场的价值将达到46亿美元。这些公司现在正在提供高度集成的、专门构建的计算解决方案，以抢占该业务的份额。

挑战一：超低功耗与始终在线

随着人工智能被部署在像助听器一样受限的设备中，功耗已成为推理平台的首要考虑因素。Eta Compute已将获得专利的动态电压频率缩放（DVFS）技术整合到其多核SoC中，以服务于这些用例。

为了节省电力，许多传统处理器包括睡眠功能，当负载存在时唤醒内核。然而，这些设备中的大多数都以峰值速率运行内核，这当然需要额外的功率。

借助DVFS，Eta Compute设备会根据当前工作负载连续切换电压供应，但仅切换到在足够长的时间内执行任务所需的最低功率。该公司的ECM3531基于Arm Cortex-M3和NXP CoolFlux DSP，因此能够以1 µW的功耗提供200 kSps的12位分辨率。