随着智能安全、机器人与自动驾驶等应用场景日益依赖嵌入式人工智能（Embedded AI）来提升性能并创造全新用户体验，一个根本性挑战逐渐凸显：那些运行在传统计算平台上的推理引擎，往往受限于严格的功耗、延迟与物理尺寸约束，难以满足现实世界的复杂需求。它们被固定的推理精度、固定的总线带宽和固定的内存架构所束缚，无法灵活调整以在速度、效率与芯片面积之间找到最佳平衡点。要高效运行最先进的卷积神经网络（CNN），显然需要一个更具适应性的计算平台。
更关键的是，未来的挑战在于能否灵活适配不断进化的神经网络架构。当前热门的CNN正以越来越快的速度被新结构所取代，而传统的片上系统（SoC）在设计之初就必须锚定当时的神经网络知识，但其目标部署日期往往在三到五年之后。这意味着，当全新的网络类型——例如循环神经网络（RNN）或胶囊网络——成为主流时，那些传统SoC可能变得效率低下，完全无法提供保持竞争力所需的性能。
如果嵌入式AI想要满足最终用户的期待，并且最关键的是，在未来随着需求持续演变而不断进化，就必须引入一种更灵活、更具适应性的计算平台。解决方案在于采用用户可配置的多核片上系统（MPSoC）设备。这种设备将主应用处理器与可扩展的可编程逻辑架构集成在一起，内置可配置的内存架构以及专为可变精度推理设计的信号处理单元。
推理精度
在传统SoC中，像内存结构与计算精度这类决定性能的特性是固定不变的。最小值通常为8位，由核心CPU决定，尽管任何给定算法的最佳精度可能远低于此。而MPSoC允许将可编程逻辑优化至晶体管级别，必要时可自由地将推理精度降至1位。这些设备还包含数千个可配置的DSP切片，专门用于高效处理乘法累加（MAC）运算。
这种对推理精度的精确优化自由度，会带来按平方律缩放的计算效率优势：在1位内核中执行的一次操作，最终只需8位内核中相同操作所需逻辑的1/64。更重要的是，MPSoC允许针对神经网络的每一层，对推理精度进行差异化优化，从而以尽可能高的效率提供所需的性能。
内存架构
除了通过调整推理精度来提升计算效率外，配置可编程片上存储器的带宽与结构还能进一步挖掘嵌入式AI的性能和效率潜力。与运行相同推理引擎的传统计算平台相比，一个定制优化的MPSoC可拥有四倍以上的片上内存以及六倍的内存接口带宽。内存的可配置性使用户能够减少瓶颈，优化芯片资源的利用率。传统子系统通常只有有限的片上集成缓存，不得不频繁与片外存储交互，这直接增加了延迟和功耗。而在MPSoC中，大多数内存交换都能在芯片内完成，不仅速度更快，而且相较片外内存交互可节省99%以上的功耗。
硅片区
解决方案的物理尺寸正成为一个日益重要的考量，特别是对于车载无人机、机器人或自动驾驶/自主行驶车辆这类移动AI应用。在MPSoC的FPGA架构中实现的推理引擎，其面积可以做到传统SoC芯片的八分之一，这意味着开发人员能在更小的设备中构建更强大的引擎。
此外，MPSoC器件系列为设计人员提供了多种选择，让他们能够以最具功耗、成本和尺寸效率的选项来构建推理引擎，从而满足系统性能要求。市场上已经出现了符合汽车标准的部件，其硬件功能安全特性根据行业标准ISO 26262 ASIL-C安全规范进行了认证，这对自动驾驶应用至关重要。一个典型例子是赛灵思的汽车级XA Zynq UltraScale+系列，它包含基于64位四核ARM Cortex-A53和双核ARM Cortex-R5的处理系统，以及可扩展的可编程逻辑结构，从而提供了在单芯片中整合控制处理、机器学习算法以及具备容错能力的安全电路的机会。
如今，嵌入式推理引擎已经可以在单个MPSoC设备中实现，功耗低至2瓦，这对于移动机器人或自动驾驶等应用而言是一个相当可行的功率预算。反观传统计算平台，即使在今天也无法在如此低的功耗水平下运行实时CNN应用，更不用说在未来更具挑战性的功耗限制下，满足对更快响应和更复杂功能日益严苛的要求。基于可编程MPSoC的平台，也可以在15瓦以上的功率水平下提供更高的计算性能、更优的效率和尺寸/重量优势。
这种可配置、多并行计算架构的好处，如果只能停留在学术兴趣层面，那么开发人员显然无法轻易将其应用到自己的项目中。成功的关键还在于是否有合适的工具来帮助开发人员优化其目标推理引擎的实现。为了满足这一需求，赛灵思一直在扩展其开发工具和机器学习软件堆栈的生态系统，并与专业合作伙伴紧密协作，以简化和加速计算机视觉、视频监控等应用的实施。
未来的灵活性
利用SoC的可配置性来为手头的应用创建最佳平台，还为AI开发人员提供了一份“灵活性保险”，让他们能够跟上神经网络架构的快速发展步伐。整个行业向新型神经网络的迁移对平台开发人员而言是一个重大风险。而可重新配置的MPSoC让开发人员具备了响应这种变化的能力——只需重新配置，就能使用任何当代最先进的策略来构建最高效的处理引擎。
人工智能正越来越多地嵌入工业控制、医疗设备、安全系统、机器人和自动驾驶汽车等设备中。在MPSoC器件中利用可编程逻辑结构实现自适应加速，正是提供保持竞争力所需的响应性与高级功能的关键所在。