游乐游手机版
首页/AI热点日报/热点详情

Linux系统Ollama小白安装配置使用手册

类型:热点整理2026-06-30
Linux用户不容错过的Ollama小白手册。核心内容:1 官网地址及快速安装指南;2 命令行安装的详细步骤;3 手动安装的注意事项及开机启动设置。先把这个框架摆在这里,再详细拆解。 安装 直接上手,几个命令搞定。要安装Ollama,运行以下命令: curl -fsSL https: oll

Linux用户不容错过的Ollama小白手册。核心内容:1. 官网地址及快速安装指南;2. 命令行安装的详细步骤;3. 手动安装的注意事项及开机启动设置。先把这个框架摆在这里,再详细拆解。

ollama 小白手册(linux)

安装

直接上手,几个命令搞定。要安装Ollama,运行以下命令:

curl -fsSL https://ollama.com/install.sh | sh

如果你从魔搭社区镜像站走,会更稳一些(推荐的方式):

# 安装modelscope
pip install modelscope

# 确保已通过pip install modelscope安装ModelScope
modelscope download --model=modelscope/ollama-linux --local_dir ./ollama-linux --revision v0.5.8

# 运行ollama安装脚本
cd ollama-linux
sudo chmod 777 ./ollama-modelscope-install.sh
./ollama-modelscope-install.sh

# 启动服务
ollama serve

参考:https://modelscope.cn/models/modelscope/ollama-linux

手动安装(不推荐)

有些场景下可能无法在线安装,这时候手动方式可以救急,但后续维护起来会麻烦一些。如果是从旧版本升级,建议先清理之前的库:

sudo rm -rf /usr/lib/ollama

然后下载并解压软件包:

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

启动Ollama:

ollama serve

另开一个终端,验证是否正常运行:

ollama -v

Ollama 开机启动(非必须)

如果你希望每次开机后自动启动Ollama,可以按步骤来。先创建专用的用户和组:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

/etc/systemd/system/ollama.service位置创建服务文件:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=default.target

然后启动服务:

sudo systemctl daemon-reload
sudo systemctl enable ollama

自定义安装

想调整安装细节?可以直接编辑systemd服务文件或环境变量:

sudo systemctl edit ollama

或者在/etc/systemd/system/ollama.service.d/override.conf手动创建覆盖文件:

[Service]
Environment="OLLAMA_DEBUG=1"

修改模型路径

Linux系统下,Ollama默认把模型塞到/usr/share/ollama/.ollama/models目录。如果你想换个地儿,可以参考下面的流程:

创建新的模型存储目录

打开终端,创建一个新目录:

sudo mkdir -p /data/ai/ollama/models

更改目录权限,确保Ollama能读写:

# 非必须
sudo chown -R ollama:ollama /data/ai/ollama/models

# 非必须
sudo chmod -R 775 /data/ai/ollama/models

修改Ollama服务配置文件

编辑/etc/systemd/system/ollama.service

sudo vi /etc/systemd/system/ollama.service

[Service]部分的Environment字段后面追加新的变量:

# 修改模型下载路径
Environment="OLLAMA_MODELS=/data/ai/ollama/models"

# 开启外部访问
Environment="OLLAMA_HOST=0.0.0.0"

一个完整的配置示例:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/data/conda3/run/envs/ollama/bin:/data/conda3/run/condabin:/usr/local/cuda/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin"
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_MODELS=/data/ai/ollama/models"

[Install]
WantedBy=default.target

重载配置并重启Ollama服务

sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo systemctl status ollama

验证更改

检查默认路径/usr/share/ollama/.ollama/models,看看模型文件是否已消失;再检查新路径/data/ai/models,确认是否生成了blobsmanifests文件夹。

模型离线迁移

实际工作中经常要把模型搬到另一台机器上,核心操作就是迁移blobsmanifests文件夹中的内容。

blobs 文件夹

blobs文件夹里是一些二进制文件。需要去Ollama官网找到对应模型的唯一标识。以deepseek-r1:1.5b为例,在models中搜索deepseek-r1进入主页,点击model,复制那一串标识(比如aabd4debf0c8)。

在blobs文件夹搜索aabd4debf0c8,定位到那个二进制文件。把与该文件具备相同修改时间的其他文件一起复制到目标主机的对应文件夹:

sha256-369ca498f347f710d068cbb38bf0b8692dd3fa30f30ca2ff755e211c94768150
sha256-6e4c38e1172f42fdbff13edf9a7a017679fb82b0fde415a3e8b3c31c6ed4a4e4
sha256-a85fe2a2e58e2426116d3686dfdc1a6ea58640c1e684069976aa730be6c1fa01
sha256-aabd4debf0c8f08881923f2c25fc0fdeed24435271c2b3e92c4af36704040dbc
sha256-f4d24e9138dd4603380add165d2b0d970bef471fac194b436ebd50e6147c6588

manifests 文件夹

这个更简单,直接把manifests文件夹下特定的目录复制到目标主机的对应目录即可。

验证

在目标主机运行ollama list,会发现deepseekr1:1.5b已经迁移过来了。再执行ollama run deepseek-r1:1.5b部署模型,部署成功。

备注:ollama的模型在Windows、Linux和Mac系统中都是通用的,不同系统之间可以相互拷贝。

更新

通过再次运行安装脚本即可更新:

curl -fsSL https://ollama.com/install.sh | sh

或者重新下载:

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

安装特定版本

通过OLLAMA_VERSION环境变量指定版本号,包括预发布版本。去发布页面找到对应版本号,例如:

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

查看日志:

journalctl -e -u ollama

卸载

删除Ollama服务:

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

从bin目录删除二进制文件(可能位于/usr/local/bin/usr/bin/bin):

sudo rm $(which ollama)

删除模型和用户组:

sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama

删除已安装的库:

sudo rm -rf /usr/local/lib/ollama
来源:https://www.53ai.com/news/OpenSourceLLM/2025021348057.html

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。