【实战AI】利用deepseek 在mac本地部署搭建个人知识库

最新推荐文章于 2025-04-01 10:01:16 发布
最新推荐文章于 2025-04-01 10:01:16 发布
阅读量1.2k 收藏 14
点赞数 5
分类专栏： chat AI 文章标签： macos
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zy_jun/article/details/145558347
版权

之前的文章中实现了本地通过ollma 部署deepseek R1：14b 模型，这里我想继续实现个人知识库，方便自己文档，数据的检索；

下载anythingLLM

地址：

https://anythingllm.com/desktop

下载安装即可；

下载嵌入 文本处理 程序nomic-embed-text

nomic-embed-text

本地终端执行

下载成功

最低0.47元/天 解锁文章
【实战篇】【搭建本地私有化知识库：用 Ollama 和 AnythingLLM 打造你的专属 AI 大脑】
04-07 455
最近 AI 火得一塌糊涂，ChatGPT、文心一言、Claude、DeepSeek…… 这些大模型让我又爱又恨。爱的是它们确实能干不少事儿，恨的是每次用都得联网，还得担心隐私泄露，关键是我这种“技术宅”总觉得：这玩意儿我能不能自己搞一个？于是，我开始研究本地化部署 AI 的方案。直到我发现了 Ollama 和 AnythingLLM，这两个工具简直是为我这种想搞私有化知识库的人量身定制的！今天，我就来手把手教你，用这两个工具搭建一个完全属于你的本地 AI 知识库。
【实战篇】普通人也能上手！手把手教你本地部署 DeepSeek 大模型
02-04 5198
另一方面，本地化部署使得模型离线可用，不受网络限制，用户即使处于网络受限区域，如偏远山区、地下场所，或者网络信号极差的地方，甚至在没有网络连接的情况下，依然能够正常运行模型，满足随时随地使用 AI 的需求。接下来，我将详细地为大家介绍如何进行 DeepSeek 大模型的本地化部署，包括部署前的准备工作、具体的部署步骤、部署后的测试与优化，以及在部署过程中可能遇到的问题及解决方案，希望能帮助大家顺利地将 DeepSeek 大模型部署到本地环境中，充分发挥其强大的功能。
5 分钟用满血 DeepSeek R1 搭建个人 AI 知识库（含本地部署）
热门推荐
Jay的个人博客
02-04 5万+
备注：评论区回复“DeepSeek”，免费领取万字DeepSeek指南。看到这里，相信你已经找到最适合自己的 DeepSeek 个人知识库方案了。如果你和大多数人一样，选择使用官方 API ，那就不用再为性能和本地硬件资源发愁；如果你恰好有充足的算力和技术储备，本地部署也是个不错的选择。不过，在整个过程中，我想和你分享的不仅仅是这些技术细节。而是一个中国团队能做出世界级大模型，一个需要 +86 才能注册的大模型。很庆幸，我们能作为中国 AI 技术进步的见证人。当然，暂时的领先不是终点。
DeepSeek+本地知识库：真的太香了
m0_46995061的博客
02-06 2550
整个操作下来，AnythingLLM 的体验没有cherry好。AnythingLLM就像一个包壳的web应用(后来查了下，确实是)。AnythingLLM 得具备一定的程序思维，给技术人员用的。非技术人员还是使用cherry吧。作为喜欢折腾的开发人员，我们可以结合dify使用。个人知识库+本地大模型的优点隐私性很好，不用担心自己的资料外泄、离线可用在工作和学习过程中对自己整理的文档，能快速找到，并自动关联在代码开发上，能参考你的开发习惯，快速生成代码。
知识库本地部署：MacBook+RAG+大模型知识库 = 王炸（附教程）
最新发布
2301_81888214的博客
04-01 678
知识库本地部署：MacBook+RAG+大模型知识库 = 王炸（附教程）
mac知识小结
oik_ios的专栏
05-02 380
有时候解决一个小问题就过去了，没过多久又遇到，然后又得google。索性整理成一篇文档，记录下。mac开启任意来源权限：sudo spctl --master-disable
一台MacBook搞定大模型知识库运行！！
musicml的博客
03-23 718
▼最近直播超级多，预约保你有收获—1—为什么要在 MacBook 上搭建知识库？最核心最重要的是我们手上的文档资料出于安全要求，不能随便上传到云服务，也就无法实际验证知识库的实际效用。另外对于 IT 同学来说，自己亲手搭建一个完整的方案、能灵活调整和对接各种不同的模型、评测各种模型不同的表现，也是出于对技术的探索本能使然。使用的 MacBook 配置如下，对大模型经过量化处理（比如：int8）后...
deepseek本地部署及应用部署指南
weixin_39797121的博客
03-06 1543
如果你找到的日志是[send] via NET/IB/0，则表示网络通信是通过IB网络的，但是没有开启GDRDMA技术，则会有大致5%的性能损耗（网传，未实测）。新增的环境变量配置，主要用于启用IB网络通信，而非使用以太网进行通信，详细的每一个参数的具体含义，可以在英伟达NCCL的官方网站上找到说明。下一步，我会对已经完成部署的模型进行压测，来探索系统的性能极限在哪里，以及如何在生产环境中何如进行进一步的性能优化，期待你的关注。
手把手教你打造DeepSeek本地知识库，开启高效知识管理
llhllq2015的博客
02-07 2960
在部署 DeepSeek 本地知识库的过程中，我们首先明确了硬件和软件的需求。从硬件上看，根据模型规模的不同，对 CPU、GPU、内存和存储等硬件组件有不同的要求。小型模型对硬件要求相对较低，而大型模型则需要高性能的硬件配置，如多 GPU 并行计算和大容量的内存及存储。在软件方面，我们需要准备好相应的操作系统、Python 环境、Ollama 以及各种依赖库，确保软件环境的兼容性和稳定性。
Mac本地化部署deepseek+Ollama+Page Assist+AnythingLLM
YForsyth的博客
02-07 4189
问题-->>AnythingLLM-->>Ollama-->>调用deepseek大语言模型-->>读取向量数据库LanceDB的内容-->>deepseek转换成通俗易懂的文字描述-->>Ollama-->>通过AnythingLLM聊天界面展示-->>答案。文档-->>上传至AnythingLLM-->>通过Ollama-->>调用Nomic Embed Text向量模型进行向量化转换转-->>Ollama-->>AnythingLLM-->>存储到本地的向量数据库LanceDB。
Mac下使用simiki搭建个人wiki
STHSF的地盘
06-30 4501
写在前面 simiki介绍 目录结构 simiki quick start Mac下部署 网页发布流程 demo展示写在前面本人搭建个人wiki也是机缘巧合，最近一直在尝试学习一点前端的知识，尝试着使用github弄个个人博客啥的玩玩，扩充自己的知识。同时，自己从事算法类的工作，其实也是程序猿的一种啦，这两天在网上查找资料的时候发现了tracholar的个人wiki，我觉得写得不错，同时也是整理自己
deepseek本地部署（在线、离线）、知识库搭建（个人、组织）与代码接入
weixin_46522694的博客
02-12 2万+
本文主要介绍deepSeek本地化容器化部署，知识库搭建与springAI接入。因笔者工作内容原因，也会介绍内网部署方式。
DeepSeek在Mac上本地可视化部署，保姆级教程，再也不怕崩了！
Gaga246的博客
02-10 1万+
DeepSeek，全称为“深度求索”，是由杭州深度求索人工智能技术研究有限公司开发的人工智能产品。这个名字体现了团队的核心理念与追求：DeepSeek 不仅仅是为了回答问题，更是致力于深度理解和探索，让 AI 具备类似人类的思考方式。更重要的是，DeepSeek-R1 的性能足以与 ChatGPT 相媲美，且完全免费供用户使用！
DeepSeek接入个人知识库，Windows和Mac电脑，最新安装包发布！
算法channel
03-14 739
技术主要包括，Meilisearch关键词粗晒+嵌入向量细筛（根据微调后的嵌入向量模型），Rerank算法，分词技术，长文本切分、切片合并算法，提示词工程等。，点击右上角的「配置」按钮，配置本地大家已经安装的DeepSeek，若没有安装，可以通过Ollama安装，大家根据自己电脑下载对应的DeepSeek版本。下一版将会重点优化RAG精度，介绍了软件使用的主要技术方案，涉及到的技术，技术难点，我们有信心克服这些困难，给大家带来更快的访问体验。
如何在自己mac电脑上私有化部署deep seek
qq_36053756的博客
02-05 1万+
通过以上步骤，你可以在 Mac 电脑上成功私有化部署 DeepSeek。如果有具体问题，可以提供更多细节，我会进一步协助！
配置攻略！AnythingLLM本地知识库你用的还好吗？部署后必看（二）极简RAG流程原理及配置参数入门
DEVELOPERAA的博客
02-12 3394
配置攻略！AnythingLLM本地知识库你用的还好吗？部署后必看（二）极简RAG流程原理及配置参数入门
deepseek本地部署并搭建个人知识库
02-11
### DeepSeek 本地部署教程 #### 准备环境 为了成功完成DeepSeek的本地化部署，需准备一台性能良好的计算机或服务器。尽管有实例表明老旧笔记本也能运行[^2]，但推荐配置更高的设备以确保稳定性和效率。 #### 安装依赖项 安装必要的软件包和工具集对于顺利部署至关重要。通常这包括但不限于Python解释器及其开发文件、pip包管理工具以及Git版本控制系统。具体命令如下所示： ```bash sudo apt-get update && sudo apt-get install python3-pip git -y ``` #### 获取源码仓库 利用Git克隆官方提供的GitHub项目地址到本地机器上。这样可以获得最新的代码库副本用于后续操作。 ```bash git clone https://github.com/deepseek-ai/deploy.git deepseek_deploy cd deepseek_deploy ``` #### 配置环境变量 创建`.env`文件来定义应用程序所需的各项参数设置，比如数据库连接字符串、密钥等敏感信息不应硬编码在程序内部而是通过这种方式传递进去。 ```plaintext # .env example content DB_HOST=localhost DB_PORT=5432 SECRET_KEY=mysecretkeyvaluehere... ``` #### 启动服务进程 按照官方文档指示执行启动脚本或者Docker容器镜像的方式激活后台守护线程监听HTTP请求接口提供对外交互能力。 ```bash docker-compose up --build -d ``` 如果一切正常的话，在浏览器里输入对应的IP地址加端口号就能看到Web界面了。 ### 构建个人知识库 #### 数据导入流程 收集整理好想要存入的知识条目之后，可以通过CSV/Excel表格形式批量上传至平台内预设的数据表单结构之中；亦或是编写自定义爬虫抓取网络上的公开资源作为初始素材填充进来。 #### 文档分类体系 建立合理的主题目录树形架构有助于提高检索命中率降低冗余度。例如按照行业领域划分子节点标签如“自然语言处理”、“图像识别技术”，再往下细分更具体的算法原理介绍文章链接列表等等。 #### 权限控制机制 针对不同用户群体设定差异化的浏览权重等级制度保障私密信息安全的同时鼓励积极贡献优质原创内容形成良性循环生态社区氛围。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

东方鲤鱼

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值