开发框架虽然极大地提升了开发效率，但如果只停留在框架层面，很容易忽视底层能力的积累。今天我们来深入探讨一下，框架与模型之间究竟该如何找到平衡点。

“框架本质上是对底层能力的封装，在学习和使用框架的过程中，绝不能完全放弃对底层原理的掌握。”

在系统开发领域，框架已成为标配——它将底层逻辑和通用功能打包成现成模块，开发者只需调用即可，也就是所谓的面向API编程。前端有Vue、React，后端有SpringBoot、FastAPI，而在大模型应用开发领域，也涌现了LangChain、LlamaIndex等众多框架。

随之而来的问题是：越来越多开发者一上手就依赖框架完成工作，虽然能做出功能，但对整个运行机制缺乏清晰认知。就像开车时只踩油门，对引擎盖下的工作原理一无所知。

言归正传，我们来聊聊大模型开发框架的实际使用心得。

框架的优势毋庸置疑，但凡事都有两面性。其弊端之一在于难以深入理解底层原理；另一个问题是，框架虽然简化了开发流程，却也容易限制你的思维。举个例子，使用LangChain开发大模型应用时，初期确实很顺畅，但时间一长，甚至可能忘记大模型本身具备哪些能力。

从使用角度来看，LangChain确实是对大模型应用开发的上层抽象——流式返回、思考模式、记忆功能、提示词封装，这些功能大模型原生就已经支持，但若用原生开发，所有逻辑都得手动编写，而框架中只需配置一个参数即可。归根结底，LangChain是对OpenAI SDK的封装，而OpenAI SDK已成为行业标准，几乎所有模型厂商都兼容其接口。即便我们完全剔除所有框架和SDK，仅用原生语言通过API调用来实现功能，也并非不可行，只是所有细节都需自行处理，成本较高但可控性更强。

那么，当前使用LangChain的问题究竟出在哪里？

此前一直把精力集中在框架本身——需要什么功能就直接调用框架接口。功能虽然勉强实现了，但总感觉受到束缚，更棘手的是，出现问题后根本不知道错在何处。直到前不久公司来了一位实习生，询问了一些基础问题，才猛然醒悟：熟练使用框架确实是职场基本功，但过度专注于框架，会让自己变成空中楼阁——只知其然，而不知其所以然。

具体来说两个典型问题。实习生遇到的第一个困难是：明明按照框架文档编写的代码，却无法实现流式返回。第二个问题是：思考模式太慢想关闭，参数配置了却没有生效。第一个问题的根源在于调用的方法不对——那个方法表面上是流式返回，但底层实际采用非流式机制。第二个问题更离谱，原因出在模型本身——关闭思考模式的参数只有部分模型支持，并非所有模型都认可该参数。

这两个例子想要说明的是：学习框架的同时，绝不能忽视大模型自身的能力。任何开发框架都只是对底层能力的抽象与封装，不可能凭空创造出底层根本不存在的功能。