游乐游手机版
首页/AI教程/文章详情

Linux平台Ollama安装与手动版本升级

时间:2026-07-14 15:09
在Ubuntu22 04系统上手动安装Ollama模型的步骤:首先下载解压安装包,配置systemd服务文件,设置环境变量参数如监听地址和并发数等。版本升级时需先删除旧库再重新解压安装。最后卸载时需清理服务、文件、用户及组。

1.前言

Ollama 是本地部署大型语言模型(如 gpt-oss、Gemma 3、DeepSeek-R1、Qwen3 等)最便捷的方式之一,这一观点在社区中获得了广泛认可。

本文将详细介绍在 Linux 环境下安装与升级 Ollama 的具体步骤,操作系统选用 Ubuntu 22.04.4 LTS。

首次接触 Ollama 是从 0.3.11 版本开始的,距今大约一年有余。当前最新版本已迭代至 0.19.0,为了支持最新的模型,必须进行版本升级,因此在此记录完整的操作流程。

2.安装

安装过程非常简洁,官方提供的命令仅需一行:

curl -fsSL https://ollama.com/install.sh | sh

该命令的成功执行依赖稳定的网络环境。一旦网络出现波动或中断,安装极易卡顿甚至失败。

由于需要访问外网资源,更为稳妥的方法是先将安装包下载至本地,再手动完成安装,从而彻底规避网络导致的异常问题。

3.手动安装

Ollama 官方同样提供了手动安装命令:

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst 
    | sudo tar x -C /usr

这条命令本质上仍是在线下载,并将解压步骤合并执行,因此相同的网络瓶颈依然存在。

建议的做法是:提前访问 Ollama 的 GitHub 发布页面(https://github.com/ollama/ollama/releases),手动下载对应系统的软件包至本地。注意,该过程需要科学上网环境。

特别说明:本次部署使用的是 NVIDIA 显卡,因此选择下载 ollama-linux-amd64.tar.zst 版本。不同显卡及系统架构对应的包名有所区别,下载时请务必核对清楚。

下载完成后,通过手动解压完成安装:

sudo tar --zstd -xvf 自己下载的路径/ollama-linux-amd64.tar.zst -C /usr

安装完毕后,可通过以下方式验证:

  • 启动服务:ollama serve
  • 在另一个终端确认运行状态:ollama -v

3.1 添加 Ollama 作为启动服务

为了实现开机自启,需要创建专用的系统用户和用户组:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

然后创建服务文件 /etc/systemd/system/ollama.service

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=multi-user.target

接下来,将其设置为系统服务:

sudo systemctl daemon-reload
sudo systemctl enable ollama

最后启动服务并确认状态:

sudo systemctl start ollama
sudo systemctl status ollama

完成以上操作后,Ollama 将在系统启动时自动运行。

3.2 配置 Ollama 服务器

由于 Ollama 以 systemd 服务方式运行,环境变量可通过 systemctl 进行配置。

  1. 执行 systemctl edit ollama.service 打开编辑界面。
  2. [Service] 部分添加所需的 Environment 行:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"
Environment="OLLAMA_NUM_PARALLEL=20"
Environment="OLLAMA_MAX_LOADED_MODELS=3"
Environment="OLLAMA_KEEP_ALIVE=5m"
[Install]
WantedBy=default.target

这些配置项的作用简要说明如下:

  • OLLAMA_HOST:指定服务监听的 IP 地址和端口,设为 0.0.0.0:11434 表示允许所有网络接口访问。
  • OLLAMA_ORIGINS:跨域来源许可,设为 * 表示全部放行。
  • OLLAMA_NUM_PARALLEL:每个模型允许的最大并发请求数,设为 20 以应对高并发场景。
  • OLLAMA_MAX_LOADED_MODELS:最多同时加载 3 个模型,防止内存溢出。
  • OLLAMA_KEEP_ALIVE:模型保持活跃的时间,设为 5 分钟,避免频繁加载与卸载。
  1. 保存后退出编辑器。
  2. 重新加载配置并重启服务:
systemctl daemon-reload
systemctl restart ollama

4.版本升级

升级 Ollama 的步骤相对简单,核心思路是:先删除旧库文件,再下载新版软件包并重新安装。

首先移除旧库:

sudo rm -rf /usr/lib/ollama

接着手动下载目标版本的软件包,解压安装:

sudo tar --zstd -xvf 自己下载的路径/ollama-linux-amd64.tar.zst -C /usr

最后重启 Ollama 服务,新版本即可生效。

5.查看日志

若遇到问题需要诊断,可运行以下命令查看日志:

journalctl -e -u ollama

该命令将输出完整的运行记录,便于快速定位异常。

6.卸载

如需彻底卸载 Ollama,需依次清理服务、库文件、二进制文件、模型数据、用户及用户组。

首先停止服务并禁用自启:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

然后移除库文件(注意路径可能因系统而异,常见位置包括 /usr/local/lib/usr/lib/lib):

sudo rm -r $(which ollama | tr 'bin' 'lib')

接着删除二进制文件(可能位于 /usr/local/bin/usr/bin/bin):

sudo rm $(which ollama)

最后清理用户、组和模型数据:

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama

执行上述命令时务必确认路径正确,避免误删系统关键文件。

来源:https://www.jb51.net/ai/1034543.html
上一篇商品图制作AI短视频广告:模特生成到平台披露全流程 下一篇Linux下如何更改Ollama模型下载路径的详细方法与步骤
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
ESP32自定义唤醒词:TFLite到离线语音唤醒一下午搞定
AI教程 · 2026-07-14

ESP32自定义唤醒词:TFLite到离线语音唤醒一下午搞定

基于TFLiteMicro和ESP-IDF,在ESP32-S3上实现自定义唤醒词离线语音识别。通过5层检测管线控制误触发,模型可从voicute com在线生成并直接部署。系统推理耗时约360ms,模型体积小于80KB,支持用户自定义唤醒词且无需联网。

GPT-5.6选Sol还是Terra Luna 素材库项目为何用Sol+Medium
AI教程 · 2026-07-14

GPT-5.6选Sol还是Terra Luna 素材库项目为何用Sol+Medium

GPT-5 6Sol、Terra、Luna分别对应旗舰、平衡与高吞吐层级。素材库项目初始化用Sol+High确立规则,日常维护选Sol+Medium而非Terra+High,因日常输入杂乱、小错误累积,Medium已满足需求且减少模型切换成本。

AI Agent中Tracker的真正作用解析
AI教程 · 2026-07-14

AI Agent中Tracker的真正作用解析

Tracker是AIAgent的运行时状态中心,记录当前任务进度、槽位、流程和最近动作,解决上下文丢失与任务恢复问题。它不同于长期记忆和知识库,遵循统一状态源,确保系统各模块状态一致,避免混乱。

技术深度解析Apifox Agent为何选择CLI+SKILL而非更多MCP工具的根本原因
AI教程 · 2026-07-14

技术深度解析Apifox Agent为何选择CLI+SKILL而非更多MCP工具的根本原因

ApifoxAgent采用CLI与SKILL组合方案,将原子能力收敛为清晰工程动作,通过cli-schema校验、agentHints引导和任务判断规范,使Agent在正确时机稳定完成读取、校验、写入与验证,同时保持CI CD友好,为复杂工程产品提供更合适的执行层。

Claude Code Skill不触发乱触发跑挂调优指南
AI教程 · 2026-07-14

Claude Code Skill不触发乱触发跑挂调优指南

Skill触发依赖语义匹配,存在欠触发、误触发、执行失败三类故障。通过15条评测集量化触发精度,并用评分表评估输出质量,迭代优化description与DoNotUseWhen段可有效修复。