适用场景与准备思路
Yi 大模型广泛适用于本地智能问答、文档整理归纳、内容自动生成、代码辅助以及企业内部知识检索等多样化场景。相比在线 API 调用，离线安装的核心优势在于环境完全自主可控、运行稳定可靠、所有数据保留在本机或内网，非常适合网络条件受限、资料高度敏感、需要固定版本复现结果的团队。对于入门用户而言，离线部署的真正难点并非“会不会写代码”，而在于安装包是否完整、模型文件路径是否正确以及运行环境是否兼容匹配。
开始安装前，建议先确认三件事：第一，电脑或服务器的操作系统版本，例如 Windows 10/11、Ubuntu 20.04/22.04；第二，硬件资源是否满足最低要求——至少准备 16GB 内存，若使用较大参数模型，建议配备独立显卡并预留足够显存；第三，离线包来源是否可靠，理想情况下应包含主程序、依赖组件、模型文件、工作流模板、说明文档和文件校验值。切勿随意混用不同来源的组件，否则极易引发启动失败或输出异常。
离线安装包应包含哪些内容
一份完整的 Yi 离线安装包通常由四个核心部分组成。第一是运行框架，即承载模型推理的主程序，可将其理解为“发动机”；第二是 Yi 模型文件，常见格式包括 safetensors、gguf 或其他框架专用格式；第三是配置文件，用于指定模型路径、端口号、上下文长度、推理精度、是否启用显卡等关键参数；第四是 AI 工作流模板，例如文档总结、客服问答、合同要点提取、日报生成等流程预设。
拿到压缩包后，不建议直接双击运行。建议先建立一个固定目录，例如 D:\AI\Yi 或 /opt/yi，将安装包解压至该目录下，路径中尽量不要包含中文、空格或特殊符号。随后检查文件结构是否完整：models 文件夹存放模型，runtime 或 app 文件夹存放主程序，workflows 文件夹存放模板，config 文件夹存放配置文件。若安装包内提供了 sha256 或 md5 校验值，应优先核对文件是否完好无损。文件不完整时强行安装，后续排查会极为耗时。
安装步骤：从解压到启动
第一步，关闭正在占用大量系统资源的软件，并确认磁盘剩余空间充足。Yi 模型文件可能从几 GB 到数十 GB 不等，解压过程还需额外临时空间。建议至少预留模型大小两倍的可用容量。
第二步，安装运行依赖。如果离线包内提供了“一体化依赖目录”，通常只需运行 install.bat 或 install.sh 即可。Windows 用户可右键菜单选择“以管理员身份运行”；Linux 用户可先赋予脚本执行权限，再执行安装。若依赖被拆分为多个包，应按照说明顺序依次安装，不可跳步。常见依赖包括 Python 运行环境、推理库、显卡计算组件和前端服务组件。
第三步，修改配置文件。打开 config 目录下的配置文件，重点检查 model_path、host、port、device、max_context 等字段。model_path 必须指向真实存在的模型文件或模型文件夹；host 若仅在本机使用可保留为 127.0.0.1，内网多人访问时再改为服务器地址；port 应避免与其他服务冲突；device 可设置为 cpu、cuda 或 auto。入门用户建议先用 auto 模式跑通基础流程，后续再逐步进行性能调优。
第四步，启动服务。Windows 下可运行 start.bat，Linux 下可运行 start.sh。正常启动后，终端会出现本地访问地址，例如 https://127.0.0.1:7860 或 https://127.0.0.1:8000。打开浏览器访问该地址，若出现聊天界面或工作台页面，说明主程序已成功运行。首次加载模型可能需要几分钟，界面短暂无响应并不一定是故障，观察日志中是否仍在加载即可。
工作流模板导入方法
AI 工作流的核心作用在于将“输入、提示词、模型调用、知识检索、格式整理、输出”串联成可复用的流程模板。对普通用户而言，使用模板比手写提示词更稳定可靠。例如，“文档总结模板”会自动读取文件内容，提炼重点，最终按标题、结论、行动项输出；“客服问答模板”会先匹配知识库，再生成简洁回复。
导入前请先确认模板格式，常见为 json、yaml 或平台专用文件。进入 Yi 的工作流管理页面，找到“导入”“从文件导入”或“模板管理”入口，选择 workflows 文件夹中的模板文件。导入后不要急于发布，先打开节点配置，检查模型名称是否与当前安装的 Yi 模型一致，知识库路径是否存在，文件读取节点是否有权限访问目录，输出字段是否符合你的使用习惯。
测试模板时建议使用短文本或示例文件。若模板包含文档解析节点，先上传一份普通 txt 或 pdf 文件；若模板包含表格处理，先用少量数据验证字段映射是否正确。测试通过后再逐步增加文件大小和任务复杂度。对于团队使用场景，可以复制一份模板后再修改，保留原始模板作为回退版本，避免误改导致全员流程不可用。
关键配置与性能优化建议
如果设备配置比较一般，建议优先选择体积较小或经过量化压缩的 Yi 模型，虽然表达能力会略有差异，但响应速度更为友好。max_context 参数不宜盲目调大，上下文越长，资源占用越高。temperature 参数控制回答的发散程度，知识问答类场景建议设置较低数值，创意写作类可适当提高。top_p、repeat_penalty 等参数若不熟悉，保持默认值即可。
显卡用户需注意驱动版本与推理组件版本之间的匹配。若日志提示找不到显卡或计算库异常，可以先切换到 cpu 模式验证主流程是否正常，再回头处理显卡环境。不要同时启动多个大模型服务，否则极易导致内存不足。多人共用时建议限制最大并发数，并设置任务队列，避免某个长任务拖慢全部请求。
常见问题排查
问题一：页面打不开。先确认启动窗口是否仍在运行，再检查端口是否被占用。可更换配置中的 port 后重启。若部署在另一台机器上，还要确认访问地址写的是服务器内网地址，而不是 127.0.0.1。
问题二：提示模型加载失败。多数情况下是模型路径错误、文件缺失或格式不匹配所致。检查配置里的 model_path，确认文件名大小写、后缀、目录层级完全一致。若安装包采用分卷压缩，必须全部解压完成。
问题三：回答很慢。可能原因包括模型过大、未启用显卡、上下文设置过长或同时运行任务过多。可先换用小模型测试，再适当降低 max_context 值，关闭无关程序，并减少并发数量。
问题四：工作流导入成功但运行报错。通常是模板引用的模型名称、知识库编号或文件目录与当前实际环境不一致。进入工作流编辑页逐个节点检查，将所有外部路径修改为本机真实路径。
问题五：输出格式不稳定。可在模板的提示词节点中增加明确约束，例如要求按“标题、要点、结论”格式输出，并写明具体示例。若用于正式业务，建议增加人工复核环节。
安全边界与使用提醒
离线部署并不等同于绝对安全。安装包必须来自可信渠道，导入模板前应仔细查看其中是否包含外部请求、未知脚本或异常路径。切勿将账号密码、客户隐私、内部密钥直接写进提示词或模板文件。若需要处理敏感资料，建议在隔离环境中运行，并设置访问权限和日志清理规则。
Yi 的输出结果应作为辅助参考，不应直接替代专业判断。涉及合同、医疗、财务、合规等高风险内容时，必须由具备相应经验的人员进行复核。工作流上线前要准备回滚方案：保留原始配置、原始模板和可用模型版本；升级新包时先在测试机器上验证，确认无误后再迁移到正式环境。小白用户只要遵循“先校验、再配置、后测试、能回退”的基本原则，就能顺利将离线安装和模板导入跑通。
