游乐游手机版
首页/AI教程/文章详情

Ollama本地快速部署大语言模型完整教程

时间:2026-06-09 15:09
在Windows上部署Ollama运行千问qwen模型,通过Docker安装OpenWebUI提供类似ChatGPT的网页交互界面,再借助cpolar内网穿透工具创建公网地址,并可配置固定二级子域名,实现随时随地远程访问本地部署的大语言模型。

前言

这篇文章要聊的是,如何在Windows上快速部署Ollama这个开源大语言模型运行工具,再装上Open WebUI,配合cpolar内网穿透,让你在外面也能随时访问自己家里搭的llama2、千问qwen这些大模型环境。

ChatGPT火起来之后,大语言模型(LLM)成了AI圈最热门的话题,各大厂也纷纷推出自己的模型,有的还开源了。今天要分享的Ollama,最近很火,对小白来说也特别友好——本地部署运行本地LLM的工具,一键搞定。

在本地跑大模型,好处挺明显的:隐私保护好、不用花钱、不受网络限制、还能随便尝鲜各种开源模型。Ollama支持现在主流的开源模型,比如llama2、千问qwen、mistral等,Windows、Linux、macOS都能装。稳定性和便利性都不错,下面就直接上实操。

\

1. 运行 Ollama

环境:Windows 10 专业版。

下载: 打开Ollama官网下载页(https://ollama.com/download),点Windows,再点下载按钮。

\

安装: 下载完双击安装程序。

\

点Install安装。

\

装完没提示,打开终端(这里用Windows PowerShell,其他也行)。现在Ollama装好了,需要跑一个大模型来测试。用千问qwen举例,它在中文上表现相对好点。

ollama run qwen

\

系统开始下载qwen模型,默认保存在C盘(路径:C:\Users\\.ollama\models)。想改位置,可以设置环境变量OLLAMA_MODELS,然后重启终端和Ollama服务。

setx OLLAMA_MODELS "D:\ollama_model"

\

下载完成后,在终端里直接输入问题就能用了。

\

到这儿,Windows本地部署Ollama并跑上千问模型就完成了。一键搞定,对新手来说确实友好。

2. 安装 Open WebUI

但只能在黑乎乎的终端里用,界面不如ChatGPT好看。要是能有个Web页面交互,体验好很多,还能保留聊天记录,方便翻阅。这时候就可以在Windows上部署Open WebUI,它之前叫Formerly Ollama WebUI,本来就是为了适配Ollama的Web界面,用惯了ChatGPT的人看着也亲切。当然,还有其他WebUI可选,以后有机会再聊。

2.1 在 Windows 系统安装 Docker

如果之前没装过Docker,需要按下面三步来:

第一步:启动 Hyper-V

打开控制面板 → 程序和功能 → 启用或关闭Windows功能。

\

勾选Hyper-V虚拟机平台Linux子系统,点确定。

\

然后重启电脑。

第二步:安装 WSL

以管理员身份打开PowerShell,执行:

wsl --update
wsl --install

\

再重启一次电脑。

第三步:下载 Docker Desktop

访问Docker官网Windows安装页面(https://docs.docker.com/desktop/install/windows-install/),下载最新版。

\

选择Windows版本下载。

\

双击安装,如果第一次装,完了会提示重启。重启后点桌面上的Docker Desktop图标,选先不注册直接登录。Docker Desktop打开后,左下角显示绿色的“running”就说明成功了。

\

2.2 使用 Docker 部署 Open WebUI

在Open WebUI的GitHub页面(https://github.com/open-webui/open-webui)可以看到,如果Ollama和Open WebUI装在同一台主机,用下面这行命令就能快速部署:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

打开终端(PowerShell),输入docker回车,如果看到命令运行成功,说明Docker装好了。

\

把上面那行部署命令复制粘贴到终端,回车。

\

等待安装完成,如下图所示。

\

装好后,在Docker Desktop里能看到Open WebUI的Web界面地址:https://localhost:3000

\

点击后在浏览器打开登录界面。

\

Sign up注册,填好账号、邮箱、密码(记好,下次登录要用)。

\

Create account创建账号,然后浏览器里就能看到类似ChatGPT界面的Open WebUI了。

\

右上角设置里可以改界面语言为简体中文,保存即可。

\

\

点“选择一个模型”旁边的加号可以增加大模型,下拉菜单能切换当前使用的模型,接下来就可以愉快地跟AI聊天了。

\

3. 安装内网穿透工具

本地用Docker部署Open WebUI和Ollama交互已经搞定了。但想出门在外也能随时随地访问,就需要一个内网穿透工具,比如cpolar。下面介绍安装cpolar并实现公网访问的步骤。

cpolar官网:https://www.cpolar.com

进入官网,点“免费使用”注册账号,然后下载最新版cpolar。

\

登录后下载Windows版本,一路默认安装。

\

安装成功后,浏览器访问https://localhost:9200,用cpolar账号登录,进入cpolar Web管理界面。

\

接下来配置Open WebUI的公网地址。登录后,点左侧“隧道管理”→“创建隧道”:

  • 隧道名称:ollama1(可自定义,别和已有的重复)
  • 协议:http
  • 本地地址:3000
  • 域名类型:免费选随机域名
  • 地区:China Top

\

创建成功后,点左侧“状态”→“在线隧道列表”,就能看到生成的公网地址,有http和https两种。

\

在手机或其他设备的浏览器里输入任意一个公网地址,就能看到Open WebUI界面。这样就用cpolar的公网域名搞定了远程访问,不用自己买云服务器。

\

小结

刚才创建的是随机域名,24小时会变,而且字符不好记。如果需要长期异地远程访问,最好换成固定的二级子域名,不用每次重新创建隧道。

4. 创建固定公网地址

配置固定HTTP端口地址,地址不会变,方便分享给别人长期访问,不用每天修改地址。

配置固定http端口地址需要将cpolar升级到专业版套餐或以上。

登录cpolar官网,点左侧“预留”,选择“保留二级子域名”,设置一个二级子域名名称,点“保留”,然后复制保留成功的二级子域名名称。

\

保留成功后复制名称,比如myollama(可自定义)。

\

回到cpolar Web管理界面,点“隧道管理”→“隧道列表”,找到隧道ollama1,点右侧“编辑”。

\

修改隧道信息:

  • 域名类型:选择二级子域名
  • Sub Domain:填写保留的二级子域名,比如myollama

点“更新”(注意一次就好,不用重复提交)。

\

更新完成后,打开“在线隧道列表”,公网地址已经变成固定的二级子域名了。

\

最后,用固定https地址访问,成功!这样就有了一个永久不变的公网地址,随时随地都能远程访问本地部署的Open WebUI。

\

以上就是Windows本地安装Ollama、用Docker部署Open WebUI,再通过cpolar实现公网访问并配置固定二级子域名的完整流程。欢迎留言交流。

来源:https://www.jb51.net/ai/1022142.html
上一篇OLLAMA快速安装教程三种方法全版本适用 下一篇Mac M1本地运行DeepSeek-R1-1.5B模型避坑指南
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
Continue Windows 本地安装配置教程 2026 最新版 下载地址与环境要求
AI教程 · 2026-07-02

Continue Windows 本地安装配置教程 2026 最新版 下载地址与环境要求

Continue是面向VSCode与JetBrains的AI编程插件,可连接云端或本地模型。Windows安装需准备编辑器、运行环境与模型服务,配置时应重点处理接口、索引、隐私与性能问题。

Tabnine新手从下载到首次运行保姆级安装教程
AI教程 · 2026-07-02

Tabnine新手从下载到首次运行保姆级安装教程

Tabnine是面向开发者的AI编程工具,适合在常见代码编辑器中辅助补全代码。安装前需确认环境、账号与编辑器版本,首次运行应完成登录、项目索引、补全测试和隐私设置。

Tabnine安装失败常见报错、日志排查与升级回滚方案
AI教程 · 2026-07-02

Tabnine安装失败常见报错、日志排查与升级回滚方案

Tabnine安装异常通常与编辑器版本、网络连接、权限、缓存或插件冲突有关。可按环境检查、日志定位、重装清理、版本切换和回滚流程逐步处理,并注意代码隐私与插件来源安全。

Tabnine插件安装配置全流程:浏览器编辑器扩展市场
AI教程 · 2026-07-02

Tabnine插件安装配置全流程:浏览器编辑器扩展市场

Tabnine适合在主流编辑器中提供代码补全与生成辅助。安装前需确认官方来源、账号策略和编辑器版本,按扩展市场或离线包方式完成配置,并注意隐私、授权与兼容问题。

Tabnine本地模型运行全攻略:下载配置与性能优化
AI教程 · 2026-07-02

Tabnine本地模型运行全攻略:下载配置与性能优化

Tabnine可在本地运行代码补全模型,适合重视代码隐私、网络环境不稳定或企业内网开发场景。配置重点包括版本确认、模型下载、路径设置、资源分配、IDE检查与性能调优。