输入一个热词,快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释,方便按概念和场景继续浏览。
推理成本指AI模型在完成一次预测或生成任务时消耗的计算资源(如GPU时间、内存、电量)。它是大模型商业化落地的核心掣肘,直接影响产品定价和用户体验。理解推理成本,才能看懂AI服务为何按token收费、为何边缘端模型越来越小。
近期常被查询的 AI 概念。