在AI智能体领域，大语言模型（LLM）并非万能解药。英伟达（NVIDIA）提出碘伏性观点：经过专门微调的小语言模型（SLM）才是Agentic AI的未来。本教程将全面剖析LLM的局限、SLM的优势、落地障碍以及一套清晰可行的转型路径，帮助你构建高效、经济的智能体系统。
一、当前主流现状：LLM主导智能体系统
绝大多数现代AI智能体仍由超大语言模型（LLM）驱动，LLM决定了智能体何时、如何使用工具、如何规划任务流程、拆解复杂任务，并进行推理和决策。智能体一般通过云端API与集中部署的LLM通信。
「智能体式交互，是采集用于未来改进的数据的自然路径。」——NVIDIA
但LLM API是为处理大批量、多样化请求而设计的“通用方案”，这种架构已深深嵌入行业实践。NVIDIA认为，LLM在智能体系统中的统治地位过度且不合理，与大多数实际用例的功能需求严重不匹配。
二、大模型在智能体系统中的四大痛点与局限性
- 成本高昂：持续调用LLM API产生巨额费用，尤其在高频场景下。
- 延迟较大：云端推理时间较长，影响实时交互体验。
- 系统开销重：集中式部署和维护带来较高运维成本。
- 部署及商业绑定：依赖特定厂商API，灵活性和可控性受限。