随着人工智能技术从云端逐步向个人电脑端迁移，本地化AI处理已成为兼顾效率与隐私保护的核心趋势。AMD 通过Ryzen AI 与 AMD XDNA 架构，将先进的人工智能引擎集成到锐龙移动处理器中，让开发者和用户能够在本地设备上直接运行AI工作负载。本教程将带你全面了解 Ryzen AI 软件平台，从硬件基础到开发部署，一步步掌握这一新兴技术。
为什么将AI工作负载从云端迁移至本地？
将人工智能任务从云端迁移到本地硬件，主要带来三大优势：
- 显著降低延迟：本地处理无需网络传输，响应速度更快。
- 更好保护数据隐私：敏感数据无需上传云端，减少泄露风险。
- 提升整体效率：无需排队等待云服务，处理过程更流畅。
Ryzen AI 的硬件基础：锐龙7000系列移动处理器
部分锐龙 7000 系列移动处理器内置了锐龙人工智能引擎，它提供了一个专用的片上加速器，专门用于运行AI工作负载。这一引擎基于 AMD XDNA 架构，能够高效处理机器学习、深度学习等任务，而无需占用CPU或GPU资源。
小提示： 并非所有锐龙7000系列处理器都包含AI引擎，购买前请确认具体型号是否支持 Ryzen AI。
Ryzen AI 软件平台概览
Ryzen AI 软件平台旨在为开发者提供从模型训练到本地部署的完整工具链。平台的发展分为几个阶段：
1. 早期预览（2023年5月）
AMD 首次公开展示了 Ryzen AI 软件，并提供了demo和代码样本供开发者试用。
2. 临时发布（2023年夏季）
通过临时版本增加了对运行在IPU上的新操作符的支持，并支持对 ONNX、PyTorch 和 TensorFlow 模型的量化处理。开发者可访问 Ryzen AI 软件文档页面 获取更多信息。
3. 完整版发布（2023年晚些时候）
完整版 Ryzen AI 软件平台将向更广泛的开发者开放，并扩展对更多 AMD XDNA 操作的支持。同时，ONNXRT Execution Provider (EP) 将获得对 Vitis AI 执行提供程序的上游支持，能够根据工作负载特性自动决定在CPU还是AMD XDNA AI引擎上调度任务。
开发流程详解：从模型训练到本地部署
以下是开发者使用 Ryzen AI 进行本地AI部署的典型工作流：
- 准备模型：采用 PT（PyTorch）、TF（TensorFlow）或 ONNX 格式的训练模型。
- 量化模型：使用 AMD Vitis AI Quantizer 或 Microsoft Olive Quantizer 将模型量化为 INT8 格式，以适配本地硬件。
- 部署运行：使用 ONNX Runtime 搭配 Vitis AI Execution Provider 进行部署。工具链会自动对代码进行分区与编译，决定其在 AMD XDNA AI 引擎或 CPU 上执行。
小提示： 量化过程会降低模型精度，但可以大幅提升推理速度并减少内存占用。建议在验证集上评估量化后的效果。
未来计划与扩展支持
AMD 计划在2023年晚些时候发布更多的工具链、库和指南，以进一步简化AI开发。这些资源将覆盖从模型训练到本地部署的各个环节，并计划增加对Generative AI模型的支持。AMD 的目标是尽可能缩小硬件首发与终端软件可用性之间的差距，让开发者和用户在早期阶段就能体验到AI处理的优势。
常见问题 (FAQ)
- 问：我是否需要特殊的硬件才能运行 Ryzen AI？
答：是的，需要搭载锐龙7000系列移动处理器且内置锐龙人工智能引擎的设备。请查阅处理器规格确认是否支持。 - 问：目前支持的模型框架有哪些？
答：支持 PyTorch、TensorFlow 和 ONNX 格式的模型，并通过 ONNX Runtime 进行部署。量化工具支持 Vitis AI Quantizer 和 Microsoft Olive Quantizer。 - 问：如果我的模型不是INT8格式怎么办？
答：需要使用提供的量化工具将模型转换为INT8格式。AMD 建议在量化后进行精度验证，确保满足应用需求。 - 问：ONNX Runtime 会自动选择 CPU 还是 AI 引擎？
答：是的，完整版平台中的 ONNXRT Execution Provider 会根据工作负载特性自动调度，无需开发者手动干预。
结语
Ryzen AI 软件平台正在将人工智能处理能力带到每个人的本地PC上，让开发者能够摆脱云端的限制，以更低的延迟和更高的隐私保护创建创新的AI应用。随着2023年完整版的发布，AMD 将进一步完善工具链和生态系统，加速本地AI的普及。无论你是刚接触AI开发的新手，还是经验丰富的工程师，现在都是探索 Ryzen AI 的最佳时机。