边缘智能正在加速落地,从人脸识别到车辆检测,各类AI应用对算力的需求日益提升。NPU(神经网络处理单元)作为继CPU、GPU之后的新一代性能指标,正成为边缘计算的核心动力。本文围绕米尔电子于2021年底推出的MYC-JX8MPQ核心板展开,基于NXP首款集成NPU的i.MX 8M Plus芯片,为你全面解析这款面向AI场景的高性能模组。
一、核心板概述:AI算力与架构
MYC-JX8MPQ核心板是米尔电子推出的AI里程碑式CPU模组,搭载NXP i.MX 8M Plus处理器,具备以下核心参数:
- 算力:2.3 TOPS,满足边缘端实时推理需求
- CPU架构:4核 Cortex-A53(主频1.8GHz)+ Cortex-M7(主频800MHz)
- NPU:集成神经网络处理单元,专为AI加速设计
这套异构架构让核心板在高性能计算与低功耗之间取得平衡,尤其适合需要本地推理的场景。
二、eIQ软件环境:主流AI框架全面支持
NXP大力扩展eIQ机器学习软件环境,现已正式集成到BSP镜像中,支持以下框架:
- OpenCV
- TensorFlow-Lite
- armNN
- PyTorch
下图展示了i.MX 8M系列对eIQ的支持情况,可以看到i.MX 8M Plus是唯一搭载NPU单元的型号:
NPU算力对比:实战数据说话
我们使用TensorFlow-Lite框架,以《将军》图为例,分别测试CPU、GPU、NPU的推理耗时。下表展示了通过对应命令计算出的结果:
- CPU:平均 44.832 ms
- GPU:平均 160.934 ms
- NPU:平均 2.866 ms
数据直观显示:NPU的推理速度是CPU的15倍以上,是GPU的56倍以上,充分满足边缘计算对低延迟、高吞吐的苛刻要求。
