远程边缘AI应用有多依赖嵌入式硬件的尺寸,可能超乎想象——这些硬件必须在源头就具备处理边缘数据的全部计算能力。大型嵌入式AI翻跟斗在空间受限的系统里会遇到不少麻烦,比如体积突兀、隐蔽性差,这些都是老生常谈的痛点。

有一篇题为《用于智能边缘监控的毫米级超低功耗成像系统》的研究,恰好瞄准了这个方向。研究人员开发出一套小到毫米级的成像系统,集成了深度学习和图像处理能力,专为边缘场景设计——尤其适合家庭监控。这套系统采用垂直堆叠的超低功耗IC,结合了动态行为特定的电源管理、分层事件检测和数据压缩方法。
话说回来,毫米级系统的设计本身就面临一大堆技术难题:系统高度受限、能量预算和峰值功率捉襟见肘、片上和片外存储有限、无线通信成本高昂,再加上毫米级镜头本身的光学非理想性,以及超低功耗前端带来的信号质量挑战——任何一个环节掉链子,整个方案就可能泡汤。
从系统架构看,要实现毫米级尺寸,必须把超低功耗IC集成并组装到极致,尽可能减少占用空间。供电方面只能靠小型电池支撑,而空间限制又导致可用的存储器数量极其有限——这直接限制了图像数据的存储量和算法的复杂度。
面对这些硬骨头,研究团队借鉴了多个领域的现有成果:低功耗图像传感器、超低功耗处理器和混合信号视觉IC、低功耗无线通信、高效的神经网络翻跟斗,以及针对边缘计算优化的机器学习算法。现有的研究要么排除了边缘计算,要么在面积和功耗上不达标。这篇论文提出的是完全集成的毫米级成像系统——他们称这是“同类中的第一个”。
一种具有边缘智能的新型毫米级成像系统
具体规格相当惊人:系统尺寸只有6.7×7×5毫米,重量仅460毫克,采用150微米厚的超低功耗IC进行垂直堆叠设计。垂直堆叠的好处在于,能在更小的占位面积内实现更多IC之间的互连——这比传统的平面2D芯片到芯片连接要紧凑得多。
系统基础层把多个功能硬件集成到单个IC芯片上:主控制器、电源管理单元和无线电IC都挤在一起。核心是Arm Cortex-M0处理器内核,配备了16kB的SRAM。电源管理单元能从单个电池源生成多个电压域,确保在负载下保持高转换效率。
再往上一层是超低功耗图像传感器和图像信号处理模块。图像传感器支持运动触发的12位VGA图像捕获,还能对子采样像素帧做近像素运动检测,最高帧率达到每秒170帧。图像信号处理则负责动态JPEG(解)压缩、光学黑色像素校准、去拜耳、RGB转YUV以及场景变化检测。神经引擎提供1.5 TOPs/W的能效,支持基于深度神经网络的帧分析。此外还有超低泄漏闪存、能量收集器、太阳能电池、可充电锂电池和聚四氟乙烯管等组件。
系统集成采用了两块4层PCB,尺寸10×10×0.8毫米,正面用于引线键合,无源元件和太阳能电池层放在背面。在这种小玩意儿上做代码开发非常棘手,团队在外缘加了城堡形通孔来暴露内部信号——算是很巧妙的设计技巧。
对毫米级成像系统的修改
既然要始终在线进行基于DNN的图像分析,功耗就成了最棘手的瓶颈。计算能量和数兆字节的DNN参数存储(无论片内片外)都是耗电大户。电源管理因此成为节能技术的核心。
动态节能模式被用到了极致——比如闪存IC在运动监控、图像捕捉和DNN场景分析期间会进入睡眠模式,功耗仅有0.003μW。电源管理单元针对每个节点做了精细调校,通过修改电流消耗、频率控制以及上/下转换比,确保动态负载下的效率最大化。另一方面,分层事件检测(HED)算法专门用来剔除那些不相关的事件——否则这些事件会在卸载数据时白耗能量,尤其是当数据对应用没有实际价值的时候。
在模型压缩方面,团队综合运用了权重剪枝、非均匀量化、卷积层量化权重的霍夫曼编码等多种方法,最终把DNN的压缩率干到了1.5位/权重。图像压缩则结合JPEG和H.264两种方法,减少数据占用空间,从而降低无线传输成本。H.264帧内压缩引擎能把VGA帧的内存占用减少23倍——不过代价是处理能量比JPEG多了138%。另外还用到了变化检测引擎,实现相比VGA帧135倍的压缩,以及用于减少无线数据传输的系统外图像重建。至于毫米级镜头和超低功耗前端带来的图像校正问题,研究团队提出可以在ISP神经引擎(NE)上执行图像校正层——直接用矩阵乘法和卷积等指令来解决。
结论
这篇论文呈现的是一套全新毫米级成像系统,它将边缘智能整合进远程物联网和边缘应用,平均功耗仅49.6μW,预期续航可达7天无需充电。为了实现这个尺寸,垂直堆叠超低功耗IC是基础,同时用数据和能源管理方法解决了内存和能源预算的限制。正如团队所言:“我们已经展示了一个微型物联网智能成像系统,下一步必须从社会技术和道德视角进行分析;我们邀请未来就安全和隐私等主题展开工作。”
