想要在本地把 OpenManus 和 QwQ‑32B 跑起来?这篇指南将整个流程——从模型的本地运行到环境搭建、配置调整——一步步拆开细讲,跟着操作下来就能拥有一套属于自己的 AI 运行环境。核心信息包括:QwQ‑32B 的本地部署与 Ollama 配置、OpenManus 的安装与依赖管理、配置文件设置与 API 密钥管理,以及如何接入本地模型。

1: 本地运行 QwQ‑32b
先从模型本身入手。如果已经装好了 Ollama,直接一行命令就能拉起来:
ollama run qwq
这一步没什么坑,等待下载完成即可。
2: 安装部署 OpenManus
下载安装包
用 git 把项目拉到本地:
git clone https://github.com/mannaandpoem/OpenManus
环境准备和安装
建议为 OpenManus 单独创建一个 conda 环境,避免与现有库冲突。Python 版本推荐 3.12:
conda create -n open-manus python=3.12
如果默认的 base 环境已经是 Python 3.12.9,直接复用也可以。进入项目目录后先配好 pip 的国内镜像,加速依赖安装:
cd OpenManus
pip config set global.index-url https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple
pip install -r requirements.txt
配置说明
OpenManus 需要指定使用哪个 LLM 的 API。操作很简单:在 config 目录下创建 config.toml 文件,可以从示例直接复制:
cp config/config.example.toml config/config.toml
然后编辑 config/config.toml,填入相应的 API 密钥和个性化设置。下面列出几种常见的选择:
deepseek 官方 API‑key 方式
# Global LLM configuration
[llm]
model = "deepseek-reasoner"
base_url = "https://api.deepseek.com/v1"
api_key = "sk-741cd3685f3548d98dba5b279a24da7b"
max_tokens = 8192
temperature = 0.0
# 备注:目前多模态还没有整合,暂时可以不动
# Optional configuration for specific LLM models
[llm.vision]
model = "claude-3-5-sonnet"
base_url = "https://api.openai.com/v1"
api_key = "sk-..."
qwq:32b 官方 API‑key 方式
# Global LLM configuration
[llm]
model = "qwq-32b"
base_url = "https://dashscope.aliyuncs.com/compatible-mode/v1"
api_key = "sk-f9460b3a55994f5ea128b2b55637a2b7"
max_tokens = 8192
temperature = 0.0
# 备注:目前多模态还没有整合,暂时可以不动
# Optional configuration for specific LLM models
[llm.vision]
model = "claude-3-5-sonnet"
base_url = "https://api.openai.com/v1"
api_key = "sk-..."
model 字段怎么写?如果用的是官方接口,填 qwq-32b;如果是硅基流动申请的 key,则填 Qwen/QwQ-32B;如果是派欧算力申请的,填 qwen/qwq-32b。来源不同,命名规则稍有差异。
启动任务
一切就绪后,运行主程序:
python main.py
输入提示词,控制台不报错就说明环境正常。
3、在 OpenManus 中配置本地模型
如果想直接用本地跑起来的模型,比如通过 Ollama 运行的 QwQ‑32B 或 Qwen2.5‑32B,配置方式和上面略有不同。
QWQ‑32B
由于 QwQ‑32B 的 “think” 过程比较长,默认的超时时间(60 秒)往往不够用,必须把 ask_tool 方法里的 timeout 调大到 600 秒(或更长)。编辑 config/config.toml:
# Global LLM configuration
[llm]
model = "qwq:latest"
base_url = "http://localhost:11434/v1"
api_key = "EMPTY"
max_tokens = 4096
temperature = 0.0
# Optional configuration for specific LLM models
[llm.vision]
model = "lla va:7b"
base_url = "localhost:11434/v1"
api_key = "EMPTY"
注意 model 名称必须与本地 Ollama 中运行的名称完全一致,可以通过 ollama list 确认。这里用的是 qwq:latest。api_key 必须设为 EMPTY,否则启动后会报 API error: Connection error。
保存后启动:
python main.py
Qwen2.5‑32B
类似的,配置只需改模型名称:
# Global LLM configuration
[llm]
model = "qwen2.5:latest"
base_url = "http://localhost:11434/v1"
api_key = "EMPTY"
max_tokens = 4096
temperature = 0.0
# Optional configuration for specific LLM models
[llm.vision]
model = "lla va:7b"
base_url = "localhost:11434/v1"
api_key = "EMPTY"
deepseek
如果本地跑的是 deepseek‑r1:32b,配置如下(注意 base_url 的路径是 /api 而非 /v1):
# Global LLM configuration
[llm]
model = "deepseek-r1:32b"
base_url = "http://localhost:11434/api"
api_key = "EMPTY"
max_tokens = 4096
temperature = 0.0
# Optional configuration for specific LLM models
[llm.vision]
model = "lla va:7b"
base_url = "localhost:11434/v1"
api_key = "EMPTY"
4: 安装浏览器所需组件
如果需要使用浏览相关功能,需要安装 Playwright 的浏览器:
playwright install
这一块暂时还没有深入研究,后续若有更完整的方案再做补充。
