本教程将详细讲解如何借助 Dify 与 Ollama 的组合,在 Rainbond Cloud 平台上快速部署私有化大模型。全程无需运维经验,即便是技术新手也能轻松完成私有 AI 的搭建。
Dify 提供直观的可视化交互界面,Ollama 则负责简化模型部署流程,二者结合实现了“开箱即用”的私有化 AI 部署方案。您只需通过几次点击,即可在自己的环境中部署大模型,打造专属的 AI 助手或智能应用。

Dify 与 Ollama 介绍
一、Dify
这是一款专为开发者和企业设计的 AI 应用开发平台,能将创意快速转化为实际产品,轻松构建如 AI 助手、在线旅游助手等各类智能应用。
- 无需编码基础,通过可视化方式编排工作流
- 快速搭建 AI 助手、智能客服、行业专属应用
- 提供企业级权限管理与数据隔离能力
二、Ollama
一款开源、跨平台的工具,专门用于高效部署和运行大型语言模型(LLM)。
- 一键部署主流开源大模型(如 Llama3、DeepSeek 等)
- 支持完全私有化部署,保障数据安全
- 支持 CPU/GPU 混合推理,灵活适配硬件环境
前提条件
别担心!只需先完成注册并登录 Rainbond Cloud[1] 账号,注册即可获得免费试用额度。
如果还不会部署 Dify,别怕,我们之前已经详细讲解过,点击查看上一篇文章 Dify 部署使用。
安装 Ollama
步骤一:在 Dify 安装完成后再安装 Ollama。在应用总览界面点击【添加组件】按钮,打开后选择“开源应用商店”,搜索“Ollama”并进行安装。
步骤二:安装完成后,拓扑图中会出现 Ollama 组件,等待状态变为绿色后,点击【Ollama】组件弹出窗口,再点击弹窗标题进入组件视图。
步骤三:点击【Web 终端】执行安装大模型的命令,待命令执行完毕后,在终端输入“你是谁”,模型能够正常回复即表示安装成功。
ollama run deepseek-r1:1.5b
提示: 上述命令会下载并运行 DeepSeek-R1 1.5B 模型。若想安装其他模型(如 Llama3),只需将 deepseek-r1:1.5b 替换为对应的模型名称即可。
步骤四:复制上图端口的“访问地址”。在 Dify 页面右上角点击头像【设置】,在模型供应商中找到 Ollama,将模型名称和访问地址填入并保存即可。
可以参考我之前的文章动手实践,搭建一个属于自己的 AI 小助手。
小提示
- 安装 Ollama 时,请确保 Dify 已正常运行,且网络连接畅通。
- 如果终端执行命令后长时间没有响应,请检查网络或尝试更换模型(如
llama3.2:1b)。 - Rainbond Cloud 提供的免费试用额度足以完成本次部署,无需额外付费。
常见问题
Q1:安装 Ollama 后,Dify 无法连接怎么办?
A:请检查步骤四中填入的“访问地址”是否正确。Ollama 默认端口为 11434,地址格式如 http://你的IP:11434。同时确认 Dify 和 Ollama 处于同一网络环境(如同一个 Rainbond 应用下)。
Q2:可以使用其他模型吗?比如 Llama3?
A:当然可以。在步骤三中将命令替换为 ollama run llama3.2:1b 即可。注意模型名称需与 Ollama 官方仓库保持一致。
Q3:我没有编程基础,能完成搭建吗?
A:完全可以!本教程全程采用图形化界面和点选式操作,只需按照步骤点击按钮、复制粘贴即可,无需编写任何代码。
总结
通过以上几个简单步骤,您已成功将 Dify 与 Ollama 结合,实现了私有化大模型的零门槛部署。现在您可以自由开发 AI 助手、智能客服等应用,所有数据完全由您掌控。快来动手尝试,开启您的私有 AI 之旅吧!
