上次聊过用Ollama打造自己的大模型，当时主要推荐用第三方云机器来训练。不过不少同学反馈说，训练一次成本不低，尤其是学习阶段，每小时都要花几块钱。确实，我自己当时用第三方机器，也是因为本地机器扛不住。既然大家提出来了，那这次咱们就一起研究一下，如何在单机——也就是自己的笔记本或台式机上，用本地环境训练模型。目标模型还是：llama2-chinese。

这个过程确实有些坎坷，但一步步走下来，还是能跑通的。下面直接进入正题。

一、搭建本地的Linux系统

所有操作、学习和训练都离不开Linux系统，所以第一步就是搭建环境。这里用的是VMware虚拟机+Centos7。具体搭建方法可以参考之前的教程（比如知乎上那篇），假设你已经搭好一个可用的Linux环境了。我们接着往下走。

二、下载Ollama

最直接的方式是去官网下载：https://ollama.com/download/linux。页面上有一行命令，复制粘贴到终端执行就行：

curl -fsSL https://ollama.com/install.sh | sh

但实际跑起来问题不少——等半天要么网络超时，要么拒绝访问。折腾了一番网络配置还是慢得离谱，最后放弃了这种在线安装方式。

后来换了个思路：去GitHub上把Ollama项目拉下来。下载地址是这个，文件不小，1G多：

https://github.com/ollama/ollama/releases/download/v0.4.0-rc5/ollama-linux-amd64.tgz

如果网络不给力，也可以找其他途径搞到安装包。

三、Ollama部署

Ollama是用Go开发的，直接编译成了可执行文件，部署相对简单。先把下载的tgz包上传到本地Linux系统，然后解压：

tar -C /usr -xzf ollama-linux-amd64.tgz

解压后启动服务：

# 非守护进程启动
ollama serve

# 守护进程启动
nohup ollama serve &

另开一个终端验证是否运行成功：

ollama -v
# 返回类似：ollama version is 0.4.0-rc5

AMD GPU用户注意：如果有AMD显卡，还需要额外下载并解压ROCm包：

curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz

到这里基本安装完毕。其他高级配置暂不展开，先聚焦核心目标——在本地玩转Ollama。

四、创建模型

解压后的目录里有bin和lib文件夹，bin里就是可执行文件ollama。进入bin目录，直接用它来创建模型：

4-1. 创建模型并启动对话

ollama run llama2-chinese

执行后会自动下载模型（约3.8GB），可能需要等一段时间。下载完成后，可以用以下命令查看已安装的模型：

ollama list

4-2. 调整内存

如果下载完成时提示类似“Error: model requires more system memory (7.5 GiB) than is a vailable (2.5 GiB)”，说明运行内存不够。建议给虚拟机分配8~10GB内存。关闭虚拟机，在设置中调整后重启，再重新运行ollama run命令即可。

五、与模型对话，进行简单的“训练”

调整完内存后，再次运行：

ollama run llama2-chinese

因为模型已经下载好，这次会直接进入对话模式。下面是测试过程：

>>> 你好，中国在哪里？
Hello! I'm just an AI...
>>> 你现在是中国人，请用中文回答
你好！我是一个AI。当然，我可以告诉您...
>>> 今天是农历多少？
今天是农历2447年。

可以看到，模型默认还是英文思维，简单告诉它“你是中国人”之后，它就改用中文了。要让模型更贴合自己的需求，需要持续提供个性化的知识、特点、实际情况等，它会在对话中逐步学习。这个过程就像“调教”一个AI分身——当然，这需要一步步来，后续还会分享更多关于训练和微调的文章，一起探索AI时代的可能性。