输入一个热词,快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释,方便按概念和场景继续浏览。
TGI(Text Generation Inference)是Hugging Face开发的开源推理服务框架,专为大型语言模型(LLM)优化,提供高效、可扩展的文本生成能力,支持模型并行加载、连续批处理和令牌流式输出。
近期常被查询的 AI 概念。