游乐游手机版
首页/AI热点日报/热点详情

OpenManus与QwQ32B本地部署指南

类型:热点整理2026-07-04
想要在本地把 OpenManus 和 QwQ‑32B 跑起来?这篇指南将整个流程——从模型的本地运行到环境搭建、配置调整——一步步拆开细讲,跟着操作下来就能拥有一套属于自己的 AI 运行环境。核心信息包括:QwQ‑32B 的本地部署与 Ollama 配置、OpenManus 的安装与依赖管理、配置文

想要在本地把 OpenManus 和 QwQ‑32B 跑起来?这篇指南将整个流程——从模型的本地运行到环境搭建、配置调整——一步步拆开细讲,跟着操作下来就能拥有一套属于自己的 AI 运行环境。核心信息包括:QwQ‑32B 的本地部署与 Ollama 配置、OpenManus 的安装与依赖管理、配置文件设置与 API 密钥管理,以及如何接入本地模型。

OpenManus+QwQ32B 本地部署

1: 本地运行 QwQ‑32b

先从模型本身入手。如果已经装好了 Ollama,直接一行命令就能拉起来:

ollama run qwq

这一步没什么坑,等待下载完成即可。

2: 安装部署 OpenManus

下载安装包

用 git 把项目拉到本地:

git clone https://github.com/mannaandpoem/OpenManus

环境准备和安装

建议为 OpenManus 单独创建一个 conda 环境,避免与现有库冲突。Python 版本推荐 3.12:

conda create -n open-manus python=3.12

如果默认的 base 环境已经是 Python 3.12.9,直接复用也可以。进入项目目录后先配好 pip 的国内镜像,加速依赖安装:

cd OpenManus
pip config set global.index-url https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple
pip install -r requirements.txt

配置说明

OpenManus 需要指定使用哪个 LLM 的 API。操作很简单:在 config 目录下创建 config.toml 文件,可以从示例直接复制:

cp config/config.example.toml config/config.toml

然后编辑 config/config.toml,填入相应的 API 密钥和个性化设置。下面列出几种常见的选择:

deepseek 官方 API‑key 方式

# Global LLM configuration
[llm]
model = "deepseek-reasoner"
base_url = "https://api.deepseek.com/v1"
api_key = "sk-741cd3685f3548d98dba5b279a24da7b"
max_tokens = 8192 
temperature = 0.0

# 备注:目前多模态还没有整合,暂时可以不动
# Optional configuration for specific LLM models
[llm.vision]
model = "claude-3-5-sonnet"
base_url = "https://api.openai.com/v1"
api_key = "sk-..."

qwq:32b 官方 API‑key 方式

# Global LLM configuration
[llm]
model = "qwq-32b"
base_url = "https://dashscope.aliyuncs.com/compatible-mode/v1"
api_key = "sk-f9460b3a55994f5ea128b2b55637a2b7"
max_tokens = 8192 
temperature = 0.0

# 备注:目前多模态还没有整合,暂时可以不动
# Optional configuration for specific LLM models
[llm.vision]
model = "claude-3-5-sonnet"
base_url = "https://api.openai.com/v1"
api_key = "sk-..."

model 字段怎么写?如果用的是官方接口,填 qwq-32b;如果是硅基流动申请的 key,则填 Qwen/QwQ-32B;如果是派欧算力申请的,填 qwen/qwq-32b。来源不同,命名规则稍有差异。

启动任务

一切就绪后,运行主程序:

python main.py

输入提示词,控制台不报错就说明环境正常。

3、在 OpenManus 中配置本地模型

如果想直接用本地跑起来的模型,比如通过 Ollama 运行的 QwQ‑32B 或 Qwen2.5‑32B,配置方式和上面略有不同。

QWQ‑32B

由于 QwQ‑32B 的 “think” 过程比较长,默认的超时时间(60 秒)往往不够用,必须把 ask_tool 方法里的 timeout 调大到 600 秒(或更长)。编辑 config/config.toml

# Global LLM configuration
[llm]
model = "qwq:latest"
base_url = "http://localhost:11434/v1"
api_key = "EMPTY"
max_tokens = 4096
temperature = 0.0

# Optional configuration for specific LLM models
[llm.vision]
model = "lla va:7b"
base_url = "localhost:11434/v1"
api_key = "EMPTY"

注意 model 名称必须与本地 Ollama 中运行的名称完全一致,可以通过 ollama list 确认。这里用的是 qwq:latestapi_key 必须设为 EMPTY,否则启动后会报 API error: Connection error

保存后启动:

python main.py

Qwen2.5‑32B

类似的,配置只需改模型名称:

# Global LLM configuration
[llm]
model = "qwen2.5:latest"
base_url = "http://localhost:11434/v1"
api_key = "EMPTY"
max_tokens = 4096
temperature = 0.0

# Optional configuration for specific LLM models
[llm.vision]
model = "lla va:7b"
base_url = "localhost:11434/v1"
api_key = "EMPTY"

deepseek

如果本地跑的是 deepseek‑r1:32b,配置如下(注意 base_url 的路径是 /api 而非 /v1):

# Global LLM configuration
[llm]
model = "deepseek-r1:32b"
base_url = "http://localhost:11434/api"
api_key = "EMPTY"
max_tokens = 4096
temperature = 0.0

# Optional configuration for specific LLM models
[llm.vision]
model = "lla va:7b"
base_url = "localhost:11434/v1"
api_key = "EMPTY"

4: 安装浏览器所需组件

如果需要使用浏览相关功能,需要安装 Playwright 的浏览器:

playwright install

这一块暂时还没有深入研究,后续若有更完整的方案再做补充。

来源:https://www.53ai.com/news/finetuning/2025032289412.html

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。