游乐游手机版
首页/手机教程/文章详情

Ollama搭配DeepSeek,本地部署全攻略

时间:2025-04-23 15:39
在人工智能领域,大型语言模型(llms)正变得越来越普及,而将这些模型部署到本地设备上,不仅可以提高数据隐私性,还能降低对网络的依赖。ollama 是一个开源工具,能够帮助用户轻松

在人工智能领域,大型语言模型(llms)正变得越来越普及,而将这些模型部署到本地设备上,不仅可以提高数据隐私性,还能降低对网络的依赖。ollama 是一个开源工具,能够帮助用户轻松地在本地运行各种大型语言模型,包括 deepseek。本文将详细介绍如何通过 ollama 在本地安装和使用 deepseek 模型。

一、Ollama 简介

Ollama 是一个开源的本地大模型部署工具,旨在让用户能够在个人电脑上运行各种开源大型语言模型(如 Llama、DeepSeek 等)。它支持跨平台操作(Windows/macOS/Linux),提供一键式安装和模型管理,优化了内存和计算资源的使用,即使是普通配置的设备也能流畅运行。通过 Ollama,开发者、研究者和爱好者可以快速部署私有化 AI 应用,无需依赖云端服务,同时享受高效、安全的本地 AI 体验。

Ollama搭配DeepSeek,本地部署全攻略

二、安装 Ollama

Windows 系统安装

访问 Ollama 官网:https://ollama.com,下载 Windows 版本的安装程序(ollama-windows.msi)。

双击安装程序,按照提示完成安装。

检查安装是否成功:打开命令提示符(cmd)或 PowerShell,输入以下命令:ollama --version

如果正确显示版本号,则安装成功。

三、下载并运行 DeepSeek 模型

(一)下载 DeepSeek 模型

在终端或命令提示符中,运行以下命令来下载 DeepSeek 模型:ollama pull deepseek-r1 ,默认情况下,这将下载 DeepSeek 的 7B 模型。如果需要其他大小的模型,可以指定版本。

Ollama搭配DeepSeek,本地部署全攻略
Ollama搭配DeepSeek,本地部署全攻略

这个下载过程可能会有点慢,有梯子的话会快一点。

Ollama搭配DeepSeek,本地部署全攻略

(二)运行 DeepSeek 模型

下载完成后,运行以下命令启动 DeepSeek 模型:ollama run deepseek-r1

此时,您可以通过命令行与 DeepSeek 模型进行交互。如果您想退出对话模式,只需输入“/bye”。

Ollama搭配DeepSeek,本地部署全攻略

可用的命令参数如下:

Ollama搭配DeepSeek,本地部署全攻略

四、在其他工具中与 DeepSeek 交互

虽然通过命令行可以使用 DeepSeek 模型,但使用一个图形界面会更加方便。

通过 Ollama 在本地使用 DeepSeek 模型,不仅可以提供更高的隐私性和灵活性,还能让用户在没有互联网连接的情况下使用 AI 大模型。

(一) ChatBox接入本地DeepSeek

AI办公学习助手:提升效率的智能选择(Chatbox )

结合 ChatBox 和其他工具,您可以进一步扩展和优化您的 AI 应用

配置 ChatBox 连接 Ollama

打开 ChatBox,进入 设置(Settings)。

在 API 选项 中,选择 Ollama,并将 API 地址设置为:https://localhost:11434

选择模型,例如 deepseek-r1:7b。

Ollama搭配DeepSeek,本地部署全攻略

测试聊天:在 ChatBox 输入框内输入问题,例如“你好,介绍一下 Ollama”,确保 ChatBox 正确响应。

Ollama搭配DeepSeek,本地部署全攻略

(二)通过Ollama REST API调用

Ollama 提供 HTTP API,可以用于开发。例如,可以通过以下命令向 DeepSeek 模型发送请求:

代码语言:javascript代码运行次数:0运行复制
curl --location 'https://localhost:11434/api/generate' \--header 'Content-Type: application/json' \--data '{    "model": "deepseek-r1",    "prompt": "你好,DeepSeek!"}'
登录后复制

(三)在 Pycharm 使用 Ollama

安装 CodeGPT 插件,安装之后点击左侧入口:

Ollama搭配DeepSeek,本地部署全攻略

登录之后配置 API 地址为 https://localhost:11434就可以开始提问了:

Ollama搭配DeepSeek,本地部署全攻略
Ollama搭配DeepSeek,本地部署全攻略

五、怎么将Ollama和模型的镜像文件下载到其他系统盘

Ollama搭配DeepSeek,本地部署全攻略

从上图的安装中可以看出,Ollama安装的时候,默认是会直接往C盘里面进行安装的。这里可以新建一个文件夹:D:\Ollama ,然后打开cmd窗口用命令进行安装:

代码语言:javascript代码运行次数:0运行复制
OllamaSetup.exe /DIR=D:\Ollama
登录后复制

注意在OllamaSetup.exe所在的文件目录下打开cmd窗口进行执行即可

Ollama搭配DeepSeek,本地部署全攻略

安装后目录如下:

Ollama搭配DeepSeek,本地部署全攻略
Ollama搭配DeepSeek,本地部署全攻略

因此,如果之前安装在了C盘,不想重新安装的话 ,可以把安装目录下的内容拷贝到其他目录,然后再修改环境变量试试。默认安装目录在C盘:

C:\Users\XX\AppData\Local\Programs\Ollama ,可以在windows的文件管理其中输入%LOCALAPPDATA%\Programs\Ollama快速进入目录

下载的模型镜像文件默认存放位置:

C:\Users\XX\AppData\.ollama\models

Ollama搭配DeepSeek,本地部署全攻略

可以在系统变量中新建一个名为OLLAMA_MODELS的变量,设置其值为模型文件的新位置,例如D:\Ollama\models

注意:OLLAMA_MODELS一定要在系统环境变量下面创建,不能在用户环境变量下创建。
Ollama搭配DeepSeek,本地部署全攻略

在这个信息爆炸的时代,我们每天都在被海量的信息包围。然而,真正有价值的知识却往往隐藏在这些杂乱无章的信息海洋中,等待着我们去挖掘。你是否也曾为找不到靠谱的学习资源而烦恼?是否渴望拓宽自己的眼界,却又不知从何下手?如果你也有这些困惑,那么 DeepSeek 知识星球绝对是你不容错过的选择!

来源:https://www.php.cn/faq/1285593.html
上一篇iOS设备越狱后安装应用的安全风险与操作指南 下一篇率先支持!腾讯云上线DeepSeek API接口+联网搜索
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
PixPix首发HappyHorse 1.1开启电商视频内容新起点
手机教程 · 2026-07-04

PixPix首发HappyHorse 1.1开启电商视频内容新起点

阿里巴巴推出HappyHorse 1 1之后,行业内关于AI视频生成的讨论热度持续走高。PixPix作为领先的电商AI内容平台,反应非常迅速——第一时间完成了集成,成为首批支持这款新模型的平台之一。 你无需专门前往阿里官网单独注册,也无需费力适应全新的操作界面。打开PixPix,直接就能上手使用。

OpenToonz导出视频无声问题?参数设置与修复指南
手机教程 · 2026-07-04

OpenToonz导出视频无声问题?参数设置与修复指南

OpenToonz导出MP4无声音,通常因时间线音频轨道喇叭图标未启用或输出设置中“包含音频”未勾选。需手动勾选并检查音频格式兼容性,建议使用PCM编码WAV文件并统一采样率(如48000Hz),同时确保导出路径有写入权限。

飞书多维表格创建方法及高级应用技巧全解析
手机教程 · 2026-07-04

飞书多维表格创建方法及高级应用技巧全解析

在飞书中创建多维表格可通过三种方式:新建空白表格并自定义字段类型、使用AI自动生成具有关联关系的多张数据表、导入本地Excel文件并指定字段类型。字段类型保存后不可修改。还可将多维表格嵌入文档实现实时协同查看。

高校邦在线教育平台官网登录入口
手机教程 · 2026-07-04

高校邦在线教育平台官网登录入口

高校邦的官方学习平台入口非常易于记忆,只需直接访问 http: gaoxiaobang com 即可快速进入。这里直截了当地给出链接,免去用户四处查找的麻烦。目前该在线教育平台整合了超过8000门跨学科慕课课程,支持PC端与移动端无缝切换,并能根据个人学习习惯进行智能推荐,同时提供院校专属门户及教

智通人才网项目经验详细描述修改教程
手机教程 · 2026-07-04

智通人才网项目经验详细描述修改教程

在智通人才网个人简历中调整项目经验,其实是个很常见但容易被忽略细节的操作。先登录账号,进入简历编辑页的“项目经验”独立模块,找到对应项目后点击右侧的“编辑”按钮,就能在弹出窗口中修改【项目描述】或【职责与成果】文本框里的内容。支持换行和基础格式,不过如果从Word等地方直接粘贴,很容易带出隐藏格式导