近年来，人工智能正从独立产品演变为基础功能，这一趋势正逐步渗透至边缘端。然而，边缘计算场景面临特殊的挑战——功耗和算力限制极为严格，许多现有方案表现平平，导致边缘AI一度被贴上“伪需求”的标签。尽管如此，无论是AI芯片厂商、IP供应商还是软件方案商，都在积极证明自身价值。
多路径实现低功耗突破
许多人习惯将AI芯片划分为云端和边缘端两大阵营。云端芯片面向服务器与高性能计算，主打高算力，功耗自然较高，且推理与训练通常泾渭分明。边缘芯片则恰恰相反，首要目标就是实现极低功耗。
旭日3 / 地平线
边缘设备覆盖范围极为广泛——从智能水表到自动驾驶汽车，算力与功耗需求千差万别。因此，即便是边缘AI芯片，也难以直接进行比较。有些是独立的AI芯片，有些仅作为协处理器存在。例如地平线的旭日3系列，便是面向智能前视与边缘计算市场的专用边缘AI芯片：X3M提供5TOPS的AI等效算力，X3E提供3TOPS，在台积电16nm制程与地平线自研架构下，功耗被压缩至2.5W。但这样的低功耗水平远不足以覆盖所有边缘AI场景——现实远比想象复杂。
AML100 / Aspinity
今年年初，AI初创企业Aspinity推出了AML100，这是一款主打模拟机器学习的超低功耗边缘AI芯片，最多可支持4个模拟传感器。其目标应用场景非常典型：需要实时唤醒的边缘AI任务，例如智能家居的安全监控、可穿戴设备的语音控制，以及预防性维修中的异常检测。这些场景有一个共同点——高度依赖传感器。传统的实时唤醒架构，是将传感器模拟信号传输给ADC转换为数字信号，再交由数字处理器处理。时至今日，这类方案已能做到相当低的功耗水平。
传统架构与AML100架构的对比 / Aspinity
但Aspinity认为，传统结构要求模拟与数字系统始终在线运行，ADC对传感器数据来者不拒，数字处理器必须处理全部数字信号，功耗通常维持在3000–5000µA的水平。而AML100的可配置模拟核心，能够直接对模拟数据进行针对性处理——例如频谱分析、神经网络特征提取——仅输出真正有价值的数据，最后再传递给数字处理器。这样一来，数字处理器无需持续保持唤醒状态，只在检测到关键数据时才被激活。AML100的模拟系统功耗可降至100µA以下。据Aspinity宣称，电池续航能力可延长20倍。
模型适配带来的挑战
仅靠AI芯片自然无法支撑整个边缘AI生态。模型在AI中的重要性无需赘言。然而边缘计算场景的特性决定了它无法运行大型模型，只能部署规模较小、随算力可扩展的机器学习模型，例如TinyML。因此，边缘端的软件栈挑战同样不容小觑。更棘手的是，针对不同硬件调整模型已成为部署AI的主要痛点。许多边缘AI芯片性能已经不俗，但软件生态尚未成熟，导致适用场景极为有限。于是，边缘AI的优化思路往往转向：缩减开销、优化模型，使其在低功耗条件下也能发挥出最大优势。
近期，又一家美国AI初创公司崭露头角，获得了高通创投与Foothill Venture等机构1000万美元的种子轮融资。创始团队包括深鉴科技（后被赛灵思收购）联合创始人兼Deep Compression技术开发者韩松、前Facebook AI技术主管Di Wu等。从履历来看，几位创始人在AI与深度学习领域经验深厚，且均为清华电子工程专业出身——考虑到Foothill Venture正是改名前的清源创投，这一背景顺理成章。
OmniML的创始人 / OmniML
团队背景无需过多展开，毕竟再豪华的阵容也要靠实力说话。OmniML的核心竞争力何在？回顾几位创始人过往成果，他们在模型压缩与优化方面造诣颇深，并活跃于TinyML开发社区。OmniML官网描述指出，他们的软件方案能够优化AI/ML模型，使其轻松部署到边缘设备上，同时不牺牲性能与精度。此外，他们还提供一种硬件感知的神经架构搜索技术，仅需训练模型一次，即可部署在任何硬件上——无论是GPU、AI芯片还是低功耗MCU，即便是老旧硬件，也能借助OmniML获得强大的AI/ML能力。
按照高通的说法，OmniML的神经架构搜索并非单纯压缩模型来优化，而是从零开始构建一个高效的新模型。对边缘硬件客户而言，这不仅能降低时间与资金成本，还能有效提升精度。OmniML声称，该神经架构搜索技术已被用于亚马逊的AutoML与Meta的PyTorch深度学习框架。
考虑到开发团队拥有深厚的机器视觉背景，OmniML首先瞄准了自动驾驶与智能摄像头领域。他们展示了基于6路车载摄像头传感器融合的3D检测方案，以及基于Cortex M7 MCU的人体检测和人脸/口罩检测方案。
边缘AI需求并非小众
尽管潜力巨大，边缘AI仍时常被“边缘化”。然而，直接审视应用市场便会发现需求十分旺盛。TWS耳机的主动降噪、服务机器人的语音识别、汽车的自动驾驶——边缘AI的发展，势必为这些场景带来更优的功耗优势，在节省成本的同时加速落地进程。