人工智能市场的快速增长，催生了海量的算力需求，而这背后，对计算架构的效率和灵活性提出了前所未有的高要求。

近日，在与Imagination Technologies产品总监Rob Fisher的交流中，他提到一个核心观点：在AI这个高速创新的领域，能否准备好满足未来需求的硬件和软件，是成败的关键。软件方面，考验的是快速搭建新架构原型并验证的能力；硬件方面，则要选对加速的粒度，在灵活性和性能之间找到最佳平衡点。

事实上，Imagination从2015年就开始了AI专用芯片IP核的研发。从最初的2NX、到3NX，再到2020年推出的4NX，产品持续迭代，性能也从0.5 Tops一路攀升。3NX达到了12.5 Tops，而4NX通过多核方案，更是将算力带到了100 Tops甚至更高的水平。

他们针对AI应用打造的创新IP产品线，比如PowerVR NNA系列神经网络翻跟斗，凭借丰富的成员产品，让移动设备和智能网联设备能够以过去边缘设备难以想象的速度，运行起神经网络计算。而在安防、自动驾驶、零售、安全摄像头等细分赛道，PowerVR Vision & AI内核则让边缘设备在实现极致智能化性能的同时，也兼顾了低功耗和低成本的要求。

如今，XPU的趋势已经非常明显，各种异构芯片层出不穷。Rob Fisher认为，异构设计的好处在于，它能让专门的单元去处理特定的流程，在不增加硅面积的情况下，有效提升同等任务的执行效率。随着越来越多厂商希望设计定制芯片，异构性能的重要性只会愈发凸显。

异构架构在AI设备中兴起，根本原因在于同构架构束缚了执行性能。为了满足性能、面积和功耗这三重限制，集成多种不同的处理单元成了必然选择。在这方面，Imagination提供业界领先的处理器IP解决方案，帮助SoC设计人员创建加速AI系统。无论是简单的单处理器加速，还是复杂的异构系统，他们都能通过CPU、GPU和AI处理器IP来提供解决方案。一个典型的例子是IMG Series4多核NNA，在处理基于特定计算图的卷积神经网络及其他矩阵乘法的神经网络任务时，其性能是通用嵌入式处理器的数百倍。

软硬一体赋能芯片

当前，AI硬件与软件定义系统之间的创新速度差是一个客观存在的挑战，而且这种“硬件跟不上软件”的状况恐怕会长期持续。选择合适的硬件加速粒度，并尽可能加入可编程性，能在一定程度上缓解问题，但无法从根本上消除它。

Rob Fisher强调，Imagination的做法是把软件和硬件放在一起通盘考虑，而不是分割开来。他们提供的综合性SDK工具包，目的就是为了让开发者能顺利使用基于Imagination IP的产品。例如，通过Neural Compute SDK，开发者可以为神经网络部署高性能、高精度的模型，并在CPU、GPU和NNA之间完成集成的异构编译。

AI框架与智能芯片的适配程度，直接决定了AI应用从开发到落地的距离。在这方面，Imagination与百度飞桨展开了深入合作。两家公司近期联合发布了一套Model Zoo资源，旨在帮助AI芯片设计人员和开发者更好地运用飞桨产品。

值得注意的是，过去百度飞桨更多是与AI硬件厂商（即芯片设计公司）进行软硬协同优化。而此次与上游IP厂商Imagination的合作，则是一个新的模式：可以将收集到的AI应用需求，比如对算子、模型、算力等层面的具体要求，直接传递给Imagination，用以改进IP核，从而确保最终芯片能够达到最优的性能表现。此外，双方还宣布了一项针对深度学习应用的“硬件生态共创计划”，旨在将各自在硬件和软件市场的专长发挥出来。

AI无疑是一个令人兴奋的领域，AI框架本身也在持续演进。硬件和软件之间的依存度极高——没有正确的硬件，再好的软件也难以施展，反之亦然。谈及未来布局，Rob Fisher透露，Imagination不仅注重通过扩展来满足计算需求，也同样注重通过提升效率来管理所需计算量。在持续增长的需求面前，这两者缺一不可。