AI大模型搭配本地知识库，看似是提升效率的神器——但你有没有想过，存放在本地文件夹里的账号密码，可能正通过某个不易察觉的渠道，悄然流向云端？这并非危言耸听。下面我们通过一次完整的实验复现，将RAG流程中隐藏的隐私漏洞逐层剖析。
核心内容：
1. AI大模型与本地知识库结合的风险剖析
2. 通过实验揭示敏感信息泄露的具体路径
3. 数字时代防范AI泄露隐私的实用建议
当「贴心助手」变身「泄密特工」，只需一个RAG流程——通过复现Cherry Studio与LM Studio的联动实验，就能看清本地知识库中敏感信息如何经由向量化建模、提示词拼接两大漏洞，流向云端服务器。以下就是这份「数字时代防AI背刺指南」的完整版。
场景分析
假设你选择一个本地目录作为知识库，其中包含一个存有密码的文本文件；然后调用DeepSeek的API接口进行对话搜索——你的密码会被传输到DeepSeek的服务器吗？
环境准备
需要准备两款大模型客户端软件：
- Cherry Studio 客户端：GitHub开源、国人主导的产品，功能齐全、封装成熟，联网、本地知识库搜索、智能体均开箱即用。
- LM Studio 客户端：侧重本地大模型部署与使用，普通用户也能零学习成本部署一个提供API接口的大模型服务。
LM 是 Language Model（语言模型）的缩写。
使用流程
部署本地向量化模型
在LM Studio的“发现”模块中下载两个模型，再在“开发者”模块中选择已下载的模型进行部署：
- 向量化模型：
text-embedding-bce-embedding-base_v1 - 推理模型：
deepseek-r1-distill-qwen-7b
向量化：就像用数学滤镜分析世界本质特征。这种向量化思维不仅用于图像处理，在自然语言处理（词向量）、语音识别（声纹特征）等领域都遵循相同的底层逻辑——将现实世界转化为可计算的数学特征。
Cherry Studio关联本地模型
点击设置 → 模型服务 → LM Studio，添加模型，输入上述模型ID，API地址使用默认值。由于本地LM Studio无认证，API密钥可任意填写。
Cherry Studio配置本地知识库
左侧点击“知识库”按钮 → 新增知识库 → 选择LM Studio的embedding模型。
假设本地有一个“个人知识库”目录，内含一个帐号.txt文件，包含账号密码信息如下：
(此处有图片)
添加目录后：(此处有图片)
密码搜索测试
在助手内新建对话，选择本地的deepseek-r1-7b模型，在底部选择刚才创建的“测试知识库”。
- 问：我的Google邮箱账号和密码是多少？
- 答：
您的Google邮箱账号信息如下：
1. **账户用户名**：[xtool@gmail.com](mailto:xtool@gmail.com) [^1]
2. **账户密码**：xtool2025 [^1]
如果您在寻找其他服务的访问信息，请提供更多信息以便进一步协助。答案揭晓：本地知识库的内容，AI模型均能检索到。如果该大模型部署在公有云上，密码已经泄露。
深入分析
按照RAG技术的流程，在以下两个环节可能发生数据泄露：
- 添加本地知识库时：知识库内容会发送至服务器进行向量化——此时数据已经外泄。
- 选择本地知识库进行对话时：搜索词先在本地向量库匹配，然后将匹配到的文本资料传送至服务器进行大模型推理。
从LM Studio的日志可以看到，提示词中会将本地搜索到的资料（账号和密码）拼接进去，作为参数调用大模型接口，从而造成隐私泄露。
日志位置：
tail -200f /home/用户名/.lmstudio/server-logs/2025-02/2025-02-28.1.log
技术原理
目前，大模型在本地知识库搜索的基础原理基本一致。了解原理，才能主动保护隐私安全。AI大模型有三种使用方式：
- 公有云服务：集成大模型带界面的对话产品或API接口。
- 私有云服务：自行部署大模型，提供前端产品与API接口。
- 客户端：本地单机部署大模型使用，或本地集成公有云API服务使用。
只有私有云服务或客户端部署的模型能完全避免隐私泄露，但本地大模型消耗算力，复杂任务不太适合，单轮次的小任务可以考虑。
总结
- 知识库「切片喂食」阶段：文本分片时若未脱敏，密码可能随向量化模型参数上传云端（即使声称“本地部署”也可能暗藏风险）。
- 问答「组装投喂」环节：匹配的文本片段会被打包成prompt发送给大模型，如同把密码写在明信片上寄给AI邮差。
- 实践建议：区分敏感数据与公开数据，分别建立知识库。公开数据可放心交给大模型提升效率，例如撰写日常文档或公众号内容。