本教程将带你深入了解边缘人工智能（Edge AI）的核心概念、工作流程，并与云人工智能（Cloud AI）进行详细对比，帮助你理解为什么在深度学习应用中，Edge AI 正在超越 Cloud AI。
什么是边缘人工智能？
Edge AI 是指在硬件上本地处理和实施机器学习算法。这种形式的本地计算减少了数据传输的网络延迟，并解决了一切都发生在设备本身上的安全挑战。
边缘人工智能的流程
Edge AI 的本地处理并不意味着机器学习模型的训练应该在本地进行。通常，训练在具有更大计算能力的平台上进行，以处理更大的数据集。最后，这个经过训练的模型可以部署在系统的处理器或硬件上。该系统具有人工智能加速功能以及用于实时数据处理应用程序的部署模型。
随着对 GPU、NPU、TPU 和 AI 翻跟斗的需求增加，Edge AI 技术经历了巨大的增长。随着机器学习和人工智能已成为当前情况下的趋势技术，这种需求是显而易见的。因此，由于当前应用程序的需求，Edge AI 在硬件中找到了自己的位置。硬件中对本地高级处理和计算能力的需求解释了 Edge AI 的重要性。
小提示
- Edge AI 的本地处理虽然不能进行大规模训练，但可以高效执行推理任务，适合实时响应场景。
- 选择 Edge AI 硬件时，要关注其是否内置 AI 翻跟斗（如 NPU），这能有效平衡性能与功耗。
常见问题
问：Edge AI 训练一定要在云端进行吗？
不一定。训练也可以在本地高性能服务器或工作站上进行，但考虑到数据集规模和计算成本，云平台通常是更灵活的选择。不过，训练完成后，模型必须部署到本地硬件上才能称为 Edge AI。
问：NPU 和 GPU 在 Edge AI 中有什么不同？
GPU 擅长并行计算，适合训练和复杂推理；NPU 专为神经网络推理优化，功耗更低，更适合边缘设备。多数边缘设备会同时集成 GPU 和 NPU 以应对不同任务。
云 AI 能比边缘 AI 活得更久吗？
Cloud AI 通过在云端远程提供计算能力来支持硬件处理。由于处理是远程进行的，因此系统在性能和处理方面更加强大。此外，云计算增加了有关架构和设计的选项。由于高级处理发生在云上，它降低了系统硬件功耗的复杂性。然而，正如引言中所讨论的，这些好处是以延迟和安全问题为代价的。
云 AI 的流程
当计算需求非常密集并且需要大量数据处理时，云人工智能可以比边缘人工智能更长寿。如果应用程序可以在延迟和安全性方面做出妥协，那么 Cloud AI 是比 Edge AI 更好的选择。Cloud AI 还可以解决功耗问题。但是，它不能被视为选择 Cloud AI 而不是 Edge AI 的决定因素。
边缘人工智能与云人工智能
在 Edge AI 和 Cloud AI 之间进行选择的不确定性主要发生在机器学习或深度学习用例中。由于深度学习算法需要密集处理，因此硬件的性能成为一个重要因素。Cloud AI 绝对可以为系统提供更好的性能，但大多数深度学习应用程序无法在数据传输延迟和网络安全威胁方面妥协。因此，对于人工智能应用，Edge AI 比 Cloud AI 寿命更长。
如前所述，功耗因素总是会影响边缘 AI 处理器。这是可以理解的，因为繁重的计算需要更高的电源。但是当前的 Edge AI 处理器具有 AI 翻跟斗，可提供更高的性能和更低的功耗。然而，GPU 和 TPU 仍然需要更高的功率，但设计和电路架构的改进将克服这个问题。
混合方案：边缘与云的结合
由于单独的云并不是人工智能应用程序的绝佳选择，边缘和云人工智能的混合可以提供更好的性能。可能会影响延迟的部分处理可以在云上完成，其余部分则在硬件本身上完成。
示例： 由于训练后的模型需要根据实时数据进行更新，因此可以在云端完成更新后的训练。但实时数据通过 Edge AI 在硬件上进行处理以生成输出。
因此，处理的划分带来了两种技术的最佳效果。因此，它可能是 AI 应用程序的更好选择。但是，大多数应用程序都需要更快的实时更新训练，因此 Edge AI 比 Cloud AI 技术寿命更长。因此，Edge AI 在深度学习应用方面正在超越 Cloud AI。
常见问题
问：混合方案中，如何决定哪些任务放在云端，哪些放在边缘？
通常，对延迟敏感、需要即时响应的推理任务（如自动驾驶、工业质检）放在边缘；而大规模模型训练、非实时数据分析、模型更新等可以放在云端。关键在于评估任务对延迟、带宽和安全性的容忍度。
问：Edge AI 设备功耗高吗？
早期 Edge AI 设备因密集计算而功耗较高，但现代 AI 翻跟斗（如 NPU）专门为低功耗推理设计，可以在毫瓦级功耗下完成推理任务。如今许多边缘设备（如手机、摄像头）已能流畅运行轻量级深度学习模型。
总之，Edge AI 凭借其低延迟、高安全性和本地处理能力，在深度学习应用中展现出越来越强的生命力。而 Cloud AI 在需要强大算力和大数据的场景下依然不可或缺。理解两者的区别与互补关系，能帮助你在实际项目中做出更明智的技术选型。