LangChain，本质上是一套大模型应用开发框架，其核心设计理念是“链式编排、任务流程组装”。借助它，开发者能够快速构建智能对话机器人、智能助手、自动化工作流、知识库问答系统以及Agent智能体等应用。在当前的LLM应用开发领域，它堪称最实用的工具之一。

LangChain能够对接多种在线大模型，包括OpenAI、文心、通义、讯飞等，同时支持加载本地电脑上的离线大模型。考虑到在线大模型每次调用会消耗大量Token，我们接下来将以离线大模型为例，详细介绍如何一步步搭建LangChain的开发环境。

一、安装Ollama

要加载离线大模型，离不开Ollama这个工具。它的安装包大小约为1.8GB，是AI应用开发中智能体部分必须安装的组件。

Ollama的官方下载页面为 https://ollama.com/download，但直接从外网下载速度较慢。建议直接访问国内网盘下载链接：https://www.alipan.com/s/gkea9rqEDTU。

下载得到的安装包名为 OllamaSetup.exe，双击即可安装到系统盘的默认目录。若想自定义安装路径，需打开命令行，输入以下命令（以安装到E盘为例）：

OllamaSetup.exe /DIR="E:Program FilesOllama"

安装完成后，在安装目录下会看到两个程序：ollama app.exe 提供可视化界面，ollama.exe 用于命令行操作。AI应用开发主要使用后者。

此外，需确保系统的PATH环境变量中包含Ollama的安装目录（例如 E:Program FilesOllama）。若没有，请手动添加。

二、下载离线大模型

通过Ollama下载离线大模型非常便捷。例如，在命令行窗口执行以下命令，即可下载 qwen2:1.5b 模型：

ollama pull qwen2:1.5b

下载的模型默认存放在系统盘的 C:Users你的用户名.ollamamodels 目录下。如需修改保存路径，只需新建一个环境变量 OLLAMA_MODELS，将其值设为指定路径（例如 F:ollama_models），后续下载的模型将自动保存到新目录。

模型下载完成后，在命令行窗口执行以下命令，启动Ollama并加载模型：

ollama serve

然后打开浏览器，访问 http://localhost:11434/api/tags，检查是否返回JSON数据。若有返回，则说明启动成功。

例如下面返回的JSON串，表示Ollama已加载 qwen2:1.5b 模型：

{
    "models": [
        {
            "name": "qwen2:1.5b",
            "model": "qwen2:1.5b",
            "modified_at": "2026-05-03T17:29:06.9028074+08:00",
            "size": 934964102,
            "digest": "f6daf2b25194025ae2d5288f2afd041997ce48116807a3b612c1a96b09bec03a",
            "details": {
                "parent_model": "",
                "format": "gguf",
                "family": "qwen2",
                "families": [
                    "qwen2"
                ],
                "parameter_size": "1.5B",
                "quantization_level": "Q4_0"
            }
        }
    ]
}

三、安装LangChain

在命令行窗口执行以下命令，即可安装LangChain及其Ollama插件：

pip install langchain langchain-core langchain-ollama

安装完成后，可执行以下命令查看版本信息，建议三个版本均不低于1.0：

pip show langchain
pip show langchain-core
pip show langchain-ollama

接下来，编写一个简单的Python测试代码，让LangChain调用离线大模型 qwen2:1.5b 来回答问题：

from langchain_ollama import OllamaLLM

# 连接本地离线大模型（Ollama）
llm = OllamaLLM(model="qwen2:1.5b")

# 提问
response = llm.invoke("介绍一下人工智能")
print(response)

运行这段代码，输出结果如下：

人工智能（Artificial Intelligence，简称AI）是一种技术，旨在构建计算机程序和系统来模拟人类智能。这些系统可以学习、推理、思考、判断、解决问题和自我优化，并且能够完成复杂的任务，如语音识别、图像处理、自然语言处理等。人工智能的研究领域包括机器学习、深度学习、强化学习和认知科学等。

可以看到，大模型正常输出了回答内容，准确介绍了人工智能的概念及其应用领域。这说明LangChain已成功安装，并与离线大模型连通无误。

本系列的AI应用开发文章目录为《15天学会AI应用开发全目录（零基础小白，零Token消耗）》。