Linux用户不容错过的Ollama小白手册。核心内容:1. 官网地址及快速安装指南;2. 命令行安装的详细步骤;3. 手动安装的注意事项及开机启动设置。先把这个框架摆在这里,再详细拆解。

安装
直接上手,几个命令搞定。要安装Ollama,运行以下命令:
curl -fsSL https://ollama.com/install.sh | sh
如果你从魔搭社区镜像站走,会更稳一些(推荐的方式):
# 安装modelscope
pip install modelscope
# 确保已通过pip install modelscope安装ModelScope
modelscope download --model=modelscope/ollama-linux --local_dir ./ollama-linux --revision v0.5.8
# 运行ollama安装脚本
cd ollama-linux
sudo chmod 777 ./ollama-modelscope-install.sh
./ollama-modelscope-install.sh
# 启动服务
ollama serve
参考:https://modelscope.cn/models/modelscope/ollama-linux
手动安装(不推荐)
有些场景下可能无法在线安装,这时候手动方式可以救急,但后续维护起来会麻烦一些。如果是从旧版本升级,建议先清理之前的库:
sudo rm -rf /usr/lib/ollama
然后下载并解压软件包:
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz sudo tar -C /usr -xzf ollama-linux-amd64.tgz
启动Ollama:
ollama serve
另开一个终端,验证是否正常运行:
ollama -v
Ollama 开机启动(非必须)
如果你希望每次开机后自动启动Ollama,可以按步骤来。先创建专用的用户和组:
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama sudo usermod -a -G ollama $(whoami)
在/etc/systemd/system/ollama.service位置创建服务文件:
[Unit] Description=Ollama Service After=network-online.target [Service] ExecStart=/usr/bin/ollama serve User=ollama Group=ollama Restart=always RestartSec=3 Environment="PATH=$PATH" [Install] WantedBy=default.target
然后启动服务:
sudo systemctl daemon-reload sudo systemctl enable ollama
自定义安装
想调整安装细节?可以直接编辑systemd服务文件或环境变量:
sudo systemctl edit ollama
或者在/etc/systemd/system/ollama.service.d/override.conf手动创建覆盖文件:
[Service] Environment="OLLAMA_DEBUG=1"
修改模型路径
Linux系统下,Ollama默认把模型塞到/usr/share/ollama/.ollama/models目录。如果你想换个地儿,可以参考下面的流程:
创建新的模型存储目录
打开终端,创建一个新目录:
sudo mkdir -p /data/ai/ollama/models
更改目录权限,确保Ollama能读写:
# 非必须
sudo chown -R ollama:ollama /data/ai/ollama/models
# 非必须
sudo chmod -R 775 /data/ai/ollama/models
修改Ollama服务配置文件
编辑/etc/systemd/system/ollama.service:
sudo vi /etc/systemd/system/ollama.service
在[Service]部分的Environment字段后面追加新的变量:
# 修改模型下载路径
Environment="OLLAMA_MODELS=/data/ai/ollama/models"
# 开启外部访问
Environment="OLLAMA_HOST=0.0.0.0"
一个完整的配置示例:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/data/conda3/run/envs/ollama/bin:/data/conda3/run/condabin:/usr/local/cuda/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin"
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_MODELS=/data/ai/ollama/models"
[Install]
WantedBy=default.target
重载配置并重启Ollama服务
sudo systemctl daemon-reload sudo systemctl restart ollama sudo systemctl status ollama
验证更改
检查默认路径/usr/share/ollama/.ollama/models,看看模型文件是否已消失;再检查新路径/data/ai/models,确认是否生成了blobs和manifests文件夹。
模型离线迁移
实际工作中经常要把模型搬到另一台机器上,核心操作就是迁移blobs和manifests文件夹中的内容。
blobs 文件夹
blobs文件夹里是一些二进制文件。需要去Ollama官网找到对应模型的唯一标识。以deepseek-r1:1.5b为例,在models中搜索deepseek-r1进入主页,点击model,复制那一串标识(比如aabd4debf0c8)。
在blobs文件夹搜索aabd4debf0c8,定位到那个二进制文件。把与该文件具备相同修改时间的其他文件一起复制到目标主机的对应文件夹:
sha256-369ca498f347f710d068cbb38bf0b8692dd3fa30f30ca2ff755e211c94768150 sha256-6e4c38e1172f42fdbff13edf9a7a017679fb82b0fde415a3e8b3c31c6ed4a4e4 sha256-a85fe2a2e58e2426116d3686dfdc1a6ea58640c1e684069976aa730be6c1fa01 sha256-aabd4debf0c8f08881923f2c25fc0fdeed24435271c2b3e92c4af36704040dbc sha256-f4d24e9138dd4603380add165d2b0d970bef471fac194b436ebd50e6147c6588
manifests 文件夹
这个更简单,直接把manifests文件夹下特定的目录复制到目标主机的对应目录即可。
验证
在目标主机运行ollama list,会发现deepseekr1:1.5b已经迁移过来了。再执行ollama run deepseek-r1:1.5b部署模型,部署成功。
备注:ollama的模型在Windows、Linux和Mac系统中都是通用的,不同系统之间可以相互拷贝。
更新
通过再次运行安装脚本即可更新:
curl -fsSL https://ollama.com/install.sh | sh
或者重新下载:
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz sudo tar -C /usr -xzf ollama-linux-amd64.tgz
安装特定版本
通过OLLAMA_VERSION环境变量指定版本号,包括预发布版本。去发布页面找到对应版本号,例如:
curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh
查看日志:
journalctl -e -u ollama
卸载
删除Ollama服务:
sudo systemctl stop ollama sudo systemctl disable ollama sudo rm /etc/systemd/system/ollama.service
从bin目录删除二进制文件(可能位于/usr/local/bin、/usr/bin或/bin):
sudo rm $(which ollama)
删除模型和用户组:
sudo rm -r /usr/share/ollama sudo userdel ollama sudo groupdel ollama
删除已安装的库:
sudo rm -rf /usr/local/lib/ollama
