AI 大模型 + 本地知识库=安全隐患？你的隐私可能在「向量化」里裸奔

AI 大模型 + 本地知识库=安全隐患？你的隐私可能在「向量化」里裸奔

当「贴心助手」变成「泄密特工」，只需一个 RAG 流程——本文通过复现 Cherry Studio 与 LM Studio 的联动实验，揭露本地知识库中敏感信息可能通过向量化建模、提示词拼接两大漏洞流向云端服务器的技术真相，并附赠一份「数字时代防 AI 背刺指南」。

场景分析

你选择本地目录作为知识库，目录内有 1 个含有密码的文本文件；
然后调用 DeepSeek 的 API 接口进行对话搜索，你的密码会被传到 DeepSeek 的服务器吗？

环境准备

准备 2 个大模型的客户端软件

1. 1. Cherry Studio 客户端：下载地址，CherryStudio 是 github 开源，国人主导的产品，是我用过的功能最齐全，产品封装最好的面向终端用户的产品，联网，本地知识库搜索，智能体全都是开箱即用；
2. 2. LM Studio 客户端：下载地址，侧重本地大模型的部署和使用，普通用户也能零学习成本部署一个提供 API 接口的大模型服务

LM 是 Language Model，语言模型的缩写

使用流程

部署本地向量化模型

在 LMStudio 中，发现模块里面下载 2 个模型，在开发者里面选择下载好的模型进行部署

1. 1. 向量化模型：text-embedding-bce-embedding-base_v1

2. 2. 推理模型：deepseek-r1-distill-qwen-7b

向量化: 就像用数学滤镜分析世界的本质特征,这种向量化思维不仅用于图像处理，在自然语言处理（词向量）、语音识别（声纹特征）等领域都遵循相同的底层逻辑,即将现实世界转化为可计算的数学特征。

CherryStudio 关联本地模型

点设置 ->模型服务 ->LM Studio，添加模型，输入上面的模型 ID,API 地址使用默认的。

由于本地 LM Studio 没有认证，API 密钥随便输入什么

CherryStudio 配置本地知识库

左侧点知识库按钮 ->新增知识库 ->选择 LM Studio 的 embedding 模型

假设我本地有个 个人知识库 的目录，里面有个 帐号.txt，里面有帐号密码信息如下：

添加目录

密码搜索测试

在助手内，点击新建对话，选择本地的 deepseek-r1-7b 模型，在底部选择刚才创建的 测试知识库,

• • 问：我的 google 邮箱账号和密码是多少？

• • 答：

您的Google邮箱账号信息如下：      1. **账户用户名**：[xtool@gmail.com](mailto:xtool@gmail.com) [^1]   2. **账户密码**：xtool2025 [^1]      如果您在寻找其他服务的访问信息，请提供更多信息以便进一步协助。

答案揭晓：本地知识库的内容，AI 模型都能搜到，如果这个大模型是公有云的，那我的密码已经泄漏了。

深入分析

按 RAG 技术的流程，其中 2 个节点会导致数据泄漏。

1. 1. 添加本地知识库：这一步我们知识库的内容都会发送到服务器进行向量化，此时数据已经泄漏了；

2. 2. 选择本地知识库进行对话：搜索词会向量化后在本地向量库匹配，然后将匹配中的文本资料传送到服务器进行大模型匹配；

从 LMStudio 的日志,我们能够看到提示词里面将本地搜索到的资料，账号和密码拼接成了提示词作为参数调用了大模型接口，造成了隐私泄密。

日志位置：tail -200f /home/用户名/.lmstudio/server-logs/2025-02/2025-02-28.1.log

技术原理

目前大模型在本地知识库搜索的基础原理基本都一致，大家知道原理，注意保护自己的隐私安全，避免被忽悠
AI 大模型有 3 种使用方式

1. 1. 公有云服务：集成了大模型的带界面的对话产品，API 接口

2. 2. 私有云服务：自己部署大模型，提供前端产品和 API 接口

3. 3. 客户端：本地单机部署大模型使用，本地集成公有云 API 服务使用

只有私有云服务/客户端部署的模型能完全避免隐私泄漏，但是由于本地大模型耗费算力，复杂任务不太适合，单论次的小任务可以考虑。

总结

• • 知识库「切片喂食」阶段：文本分片时若未脱敏，密码可能随向量化模型参数上传云端（即使声称「本地部署」也可能暗藏玄机）；

• • 问答「组装投喂」环节：匹配的文本片段会被打包成 prompt 发送给大模型，如同把密码写在明信片上寄给 AI 邮差；

• • 实践建议：区分敏感数据和公开数据，分别建立知识库，对公开数据放心问大模型提高效率，比如说我现在写的公众号内容。

👉记住：
在 AI 眼里，你的密码只是 128 维空间里的一个向量点——但黑客眼中，那可是通往你数字王国的万能钥匙🔑。
安全之道，在于永远假设你的 AI 助手是个「大嘴巴」。

AI大模型学习福利

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

大模型&AI产品经理如何学习

求大家的点赞和收藏，我花2万买的大模型学习资料免费共享给你们，来看看有哪些东西。

1.学习路线图

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源，但基本上都残缺不全的，这是我自己整理的大模型视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。

（都打包成一块的了，不能一一展开，总共300多集）

因篇幅有限，仅展示部分资料，需要点击下方图片前往获取

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档，有几百本，都是目前行业最新的。

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓