输入一个热词,快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释,方便按概念和场景继续浏览。
推理加速是一系列旨在提升AI模型在部署后实际运行(即推理)阶段速度和效率的技术总称。它通过硬件优化、软件算法和模型压缩等手段,让模型在保持精度的前提下,用更少的计算资源和时间完成预测任务,是AI落地应用的核心瓶颈突破点。
近期常被查询的 AI 概念。