生成式AI时代，为何需要全新的计算架构？

随着生成式AI在医疗、教育、设计等垂直领域的应用持续普及，不同类型场景对计算性能、功耗以及实时性提出了多样化的需求。传统的通用处理器已经难以高效满足这些要求。因此，我们亟需专为AI定制设计的全新计算架构——以神经网络处理器（NPU）为核心，同时结合中央处理器（CPU）和图形处理器（GPU）的异构计算方案，才能充分释放生成式AI的潜力，实现最佳性能、能效与电池续航表现。

异构计算：让“对的人”做“对的事”

生成式AI的工作负载涵盖顺序控制、并行数据流、标量/向量/张量运算等多种类型，单一处理器无法高效应对所有任务。异构计算架构通过将任务合理分配至不同处理器，实现1+1>2的效果：

• CPU（中央处理器）：擅长顺序控制和即时性响应，适合处理系统调度、逻辑判断等任务。
• GPU（图形处理器）：擅长并行数据流处理，适合图像渲染、大规模矩阵运算。
• NPU（神经网络处理器）：专为AI推理设计，擅长标量、向量和张量数学运算，是核心AI工作负载的最佳选择。

通过异构计算，每个处理器各司其职，从而实现最佳应用性能、能效和电池续航，为用户提供流畅、持久的生成式AI体验。