输入一个热词,快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释,方便按概念和场景继续浏览。
Tokens Per Second(TPS)是衡量大语言模型每秒可生成或处理多少个token的指标,数值越高代表推理速度越快,直接影响对话流畅度和实时应用体验。它常与首Token延迟、吞吐量等概念一起用于评估模型部署性能。
近期常被查询的 AI 概念。