本次查询：IPU
中文解释：智能处理单元
常见场景：IPU广泛应用于自动驾驶 / 语音识别 / 图像生成等需要低延迟AI推理的场景 / 也用于科学研究中的神经网络训练。
一句话解释
IPU全称Intelligence Processing Unit，是一种专门为AI计算设计的处理器。它通过大量小核心并行处理数据和指令，在神经网络推理任务上比传统GPU或CPU速度更快、能效更高。
为什么会被关注
随着AI模型规模激增（如GPT、ViT），GPU在处理稀疏计算和梯度同步时效率下降。IPU采用“图环”架构，每个核心直接连接，避免数据搬移瓶颈，在BERT、ResNet等模型上能达到2-5倍性能提升。它的出现被视为打破英伟达垄断的关键尝试，尤其吸引对推理延迟敏感的工业和自动驾驶领域。
核心逻辑
IPU的核心是将计算单元（Processor Elements）按二维网格排列，每个PE拥有独立本地存储和指令流。数据以“图”形式在PE之间传递，无需全局共享内存。这种设计天然适配神经网络中的矩阵乘法和激活函数运算，且支持细粒度流水线并行。编译器Poplar负责将模型映射到PE上，自动优化通信拓扑和内存复用。
常见场景
自动驾驶训练和部署：处理激光雷达点云与视觉融合任务，IPU的低延迟特性适合实时决策。
语音助手推理：企业将TTS模型部署在IPU集群上，降低云推理成本。
医疗影像分析：CT、MRI的3D卷积网络在IPU上比GPU提速30%以上。
科学计算：分子动力学模拟和气象预报中，IPU的图计算能力加速模拟循环。
容易混淆的点
IPU不是TPU的升级版。TPU是Google的矩阵加速器，侧重密集乘法，而IPU擅长稀疏计算和动态图。
IPU不等于通用GPU。虽然都做并行计算，但IPU不能渲染图形，其指令集完全为AI定制。
国内有些厂商将“神经网络处理器”也称为IPU，但Graphcore拥有专利架构，切勿混用。