人工智能（AI/ML/DL）在电子系统中的应用：从芯片设计到边缘推理的全面教程

人工智能（AI）已不再是芯片与系统设计中的孤立概念，它正承担着愈发复杂的任务，并成为众多市场的竞争关键。然而，AI及其子领域机器学习（ML）与深度学习（DL）的引入，也给电子产品的各个环节带来了广泛的不确定性与认知混乱。这既源于AI涉及大量不同的设备与流程，也因为AI技术本身仍在持续演进。本教程将系统梳理AI从训练到推理、从数据中心到边缘、从硬件设计到系统优化的核心概念与实践要点，帮助读者构建清晰的知识体系。

一、AI/ML/DL的核心目标

在AI的广泛应用与技术集合中，存在几个贯穿始终的共同目标：

• 降低AI/ML/DL计算所需的能量消耗；
• 更快获得结果——这需要更高的并行度与吞吐量，以及硬件和软件架构的根本性变革；
• 提升结果的准确性——这直接影响功耗与性能表现；
• 提高整体效率。

对于任何AI风格或应用场景，每瓦性能或每次操作的性能都是关键衡量指标。生成和存储执行AI/ML/DL计算所需的能量，会带来资源、公用事业及芯片面积方面的相关成本。

小提示： 在评估AI系统时，不仅要关注原始算力，更应重视能效比（TOPS/W）。在相同算力条件下，能效更高的架构往往在边缘场景中更具竞争力。

二、训练与推理：数据中心与边缘的分化

2.1 训练——大规模并行与稀疏计算

算法训练通常涉及乘法/累加运算（MAC）的大规模并行化。效率来自超大规模数据中心中计算单元的弹性——能够根据需要动态增加计算资源，并在不需要时将其转移至其他项目，同时更智能地利用这些资源，结合日益精细的稀疏性模型。

谷歌首席科学家杰夫·迪恩（Jeff Dean）指出了机器学习模型的三个趋势：稀疏性、自适应计算和动态变化的神经网络。他解释道：“密集模型是指对每个输入示例或生成的每个代币都激活整个模型的模型……但稀疏计算将成为未来的方向。稀疏模型拥有不同的路径，可根据需要自适应调用。”“在每个示例上花费相同数量的计算是没有意义的，因为有些示例的难度是其他示例的100倍。因此，我们应该把100倍的计算资源分配给真正困难的任务。”

图1：具有粒度稀疏性的自适应计算。资料来源：Google/Hot Chips 2023

2.2 边缘推理——资源受限下的权衡

边缘设备与数据中心在资源和计算模型上存在显著差异，但抽象、定制与规模调整的基本原则依然适用。边缘的抽象更侧重于局部和系统层面的权衡。例如，可以硬连接处理器的某些元素，同时保留足够的灵活性以融合未来的变化。

Flex Logix首席技术官兼联合创始人Cheng Wang表示：“关键在于，从这些硬连线块馈入和馈出的内存或数据路径，必须能够支持我们所需的排列方式……如果内存带宽不足，你就必须停止。在这种情况下，无论MAC速度多快都无济于事。如果停滞不前，你将以内存的速度运行，而非计算机的速度。”

常见问题： 边缘AI为什么不能直接复用数据中心的训练模式？
答案： 边缘设备受功耗、成本和散热限制，无法部署大规模并行计算阵列。此外，边缘数据是实时生成的，需要低延迟响应，必须快速丢弃无用数据，仅保留关键信息。因此，边缘AI通常需要针对特定任务定制轻量级模型（如tinyML），并采用硬件加速与软件压缩相结合的方式。

三、内存架构与系统调优

出于类似原因，内存架构也在不断演进。Rambus研究员Steven Woo指出：“人工智能越来越多地被用于提取有意义的数据并实现其货币化……我们看到对性能更快的内存和互连有着永无止境的需求。”数据中心正从DDR4过渡到DDR5，并引入CXL等新技术，从专属资源向池化资源演变。

同样的趋势也在重新定义边缘计算。华邦市场主管C.S. Lin说：“芯片组制造商与芯片开发团队合作，从系统整体角度审视性能与功耗……所有元素都需要协同配合，才能实现每秒32 Gb的速度（NVMe PCIe Gen 3）。”

瑞萨电子执行副总裁Sailesh Chittipeddi在SEMICON West上表示：“到2025年，大约75%的数据将源自网络边缘和端点。当您思考计算时，会想到微控制器、微处理器以及CPU和GPU……但大多数数据集并不需要如此巨大的处理能力。”

边缘计算的一大挑战是快速丢弃无用数据，仅保留所需数据，然后更高效地处理这些数据。艾伯德首席科学家Sharad Chole说：“传感器数据是实时生成的。传感器数据的传入方式以及AI NPU处理数据的速度，会显著改变许多因素，包括需要缓冲的数据量、带宽和整体延迟。目标始终是实现尽可能低的延迟。”

小提示： 设计边缘AI系统时，建议优先评估数据流瓶颈。许多性能问题并非源于MAC不够快，而是内存带宽不足导致MAC闲置。可以使用仿真工具提前验证内存与计算单元的匹配度。

四、准确性的代价：性能、功耗与精度的三角关系

对于任何AI应用，性能都是衡量获取结果所需时间的关键指标。通常，需要更多的计算单元才能在更短的时间内生成更准确的结果。这在一定程度上取决于数据质量以及算法训练的适当性。通用处理器效率较低，通用算法也是如此。

这是一个架构改进的成熟领域，一些创新的权衡开始涌现。Arm首席CPU架构师Magnus Bruce介绍，Arm专门为云、高性能计算和AI/ML工作负载设计了Neoverse V2平台。通过分离分支预测与提取、加入高级预取（包括准确性监控），目标是更精细地预测芯片的下一步操作，并在出现错误预测时缩短恢复时间。

图2：基于精度提高的架构和微架构效率。资料来源：Arm/Hot Chips 23

常见问题： 在AI推理中，提高精度一定会导致功耗大幅上升吗？
答案： 不一定。可以通过混合精度（如FP16与INT8结合）、稀疏化剪枝、自适应计算等策略，在保持较高精度的同时控制功耗。例如，根据不同输入难度动态分配计算资源，可避免对简单数据浪费算力。实际设计中需要根据应用场景（如自动驾驶 vs 语音唤醒）找到最佳平衡点。

五、用AI设计芯片：EDA领域的变革

除了架构更改，AI本身也在帮助改进和加速硬件设计。Synopsys EDA部门总经理Shankar Krishnamoorthy说：“客户关心的基本指标仍然是功耗、性能、面积和进度……但工程成本急剧上升。有客户告诉我们，工作量是原来的4倍。谁来缩小这一差距？这确实是AI介入的关键领域。”

Quadric营销副总裁Steve Roddy补充：“AI/ML正在改变市场格局。经典综合/布局布线的核心是从一种抽象到另一种抽象的转换……如果能够利用机器学习算法加速或获得更好的结果，就足以颠覆现有行业。”他举例说，可以用机器学习算法对较低分辨率的GPU渲染内容进行升级，从而减少对GPU数量的依赖。

Fraunhofer IIS设计方法负责人Roland Jancke指出，建模始终是抽象与准确之间的权衡。AI能够关联大量数据，这有助于自动优化设计过程，并用于开发AI芯片本身。

Synopsys的Krishnamoorthy进一步表示：“AI芯片社区收入约20亿至30亿美元，预计到本世纪末将增长到100亿美元。在EDA方面，AI可优化设计以获得更好的PPA；在验证方面，AI可自主搜索更大的空间以获得更高覆盖率；在测试方面，AI可减少图案计数，直接降低测试成本和时间；在定制设计方面，AI能自动将模拟电路从5nm迁移到3nm。”

六、定制化设计与老化问题

即使在设计最完善的系统中，也存在许多变量和意想不到的结果。例如，MAC功能在不同处理单元之间的分区可能在晶圆厂中得到完美调整，但随着加工元件老化，它们可能会不同步，导致部分元件闲置并消耗电力。同样，互连、存储器和PHY可能随时间退化，产生时序问题。

过去十年，这些问题主要由大型系统公司内部解决。随着计算向边缘迁移，功耗直接影响电动汽车的续航里程或可穿戴设备的实用性。关键是要理解设计中应整合多少AI，以及AI究竟应该承担什么角色。高效的SoC通常根据需求打开或关闭各种组件，而高效的AI架构则让许多处理单元以最大速度运行，因为计算被分解为并行操作。但若任何单元出现计算延迟，就会浪费时间和精力。

另一个问题是，行业内的学习成果并未广泛共享，因为许多前沿设计是系统公司为内部使用而开发的，这减缓了知识转移的速度。

常见问题： AI芯片在长期运行中可能会因老化而性能下降，如何应对？
答案： 可以采取动态电压频率调节（DVFS）、在线自适应补偿、冗余设计等策略。部分芯片还内置了监控电路，实时检测时序变化并重新校准。另外，采用稀疏计算的模型对部分硬件老化具有天然的容忍性，因为并非所有处理单元都同时被激活。

结语

虽然围绕AI/ML/DL的讨论很多，但它早已不是炒作。从数据中心到边缘设备，从训练到推理，从芯片设计到系统优化，AI正在实际应用中发挥关键作用。随着设计团队不断摸索最有效的方法，效率、性能和准确性将持续提升。过程中难免出现小问题与不确定性，例如AI系统如何随老化自适应。但毫无疑问，AI已经到来，并在充足的资源与兴趣驱动下，持续进化。

瑞萨电子的Chittipeddi总结道：“你今天看到的真实用例每天都在发生……从根本上改变的是将AI应用于实际用例的能力。它正在改变整个行业格局。”