DeepSeek+Ollama+AnythingLLM 本地部署完全指南，打造专属知识库

最新推荐文章于 2025-03-13 22:33:40 发布
最新推荐文章于 2025-03-13 22:33:40 发布
阅读量802 收藏 5
点赞数 10
分类专栏： DeepSeek 文章标签： 人工智能 AI编程
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hugejiletuhugejiltu/article/details/145830433
版权

DeepSeek+Ollama+AnythingLLM 本地部署完全指南，打造专属知识库

文章目录

一 ，DeepSeek+Ollama 的本地化部署

请参考： DeepSeek-R1本地化部署 java调用 图文教程

二 ，安装AnythingLLM

1，下载安装

打开官网地址：https://anythingllm.com/desktop，根据自己的系统选择下载的版本。默认路径安装，或者修改默认安装路径都可以。
在这里插入图片描述
安装非常简单根据提示一路走下去就行了。安装完成页面如下图：
在这里插入图片描述

###2， AnythingLLM 配置
第一步：LLM 首选项（大语言模型选择）：选择Ollama，AnythingLLM会自动检测本地部署的模型，所以前提确保Ollama本地部署的模型正常运行。
在这里插入图片描述

第二步：设置向量数据库 选择默认lancedb 就可以，简单无需独立安装。
在这里插入图片描述
第三步：Embedding 首选项（嵌入偏好）：
需要预先安装 nomic-embed-text 。打开openwebui 搜索安装即可
在这里插入图片描述

nomic-embed-text 是一个用于生成嵌入式的文本的工具或框架，通常用于自然语言处理（NLP）任务中。它提供了一种方法来将文本内容转化为高层次的向量表示，这些向量可以被用来进行各种 downstream的任务，例如文本分类、信息检索、机器翻译等。

在集成到类似的系统中，nomic-embed-text 可以帮助将自然语言处理的内容嵌入到知识库或模型中，从而增强对文本数据的理解和处理能力。具体实现可能需要按照其文档或集成指南来进行配置和使用。

在这里插入图片描述

三 ，加载自己的知识库

第一步：新建一个工作区
在这里插入图片描述
第二步：聊天设置在这里插入图片描述
第三步：向量数据默认即可
第四步：代理配置
在这里插入图片描述

第五步：挂载自己的知识库
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
这样就可以使用自己的知识库回答你的问题了。如下图：土地法的作用是什么 ？ 结果是参考刚才上传的知识库内容去回答了问题，内容准确度还是不错的。

在这里插入图片描述

四 ，AnythingLLM 接口调用

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

【DeepSeek应用实践】手把手教程：用 AnythingLLM + Ollama + DeepSeek-R1 搭建本地企业知识库
寻道AI，探索AI无限可能！
03-28 1306
在众多的技术方案中，我们选择了 AnythingLLM、Ollama 和 DeepSeek-R1 这一组合来搭建本地知识库。Ollama 作为一个轻量级的本地化大语言模型部署工具，支持多种模型，易于安装和使用，能够快速在本地运行强大的语言模型。DeepSeek-R1 是一个专为知识库问答设计的检索增强生成（RAG）模型，它结合了检索和生成的优势，能够快速从知识库中检索相关信息并生成精准答案。而 AnythingLLM 则是一个用户友好的界面工具，可以方便地连接 Ollama 和 DeepSeek-R1
【DeepSeek应用实践】Ollama Deep Researcher：Ollama平台部署DeepSeek-R1，打造本地AI研究助手
寻道AI，探索AI无限可能！
04-01 1344
在当今数字化信息爆炸的时代，高效获取和整理信息成为了科研工作和专业研究中的关键环节。随着人工智能技术的飞速发展，大语言模型（LLM）在信息处理和自然语言理解方面展现出了巨大的潜力。Ollama Deep Researcher 应运而生，它是一款结合了 LangChain 和 Ollama 框架优势的本地化 AI 研究助手，旨在通过自动化的方式帮助用户进行深度网络调研和报告撰写，为研究人员和专业人士提供了一种高效、安全且灵活的研究工具。
DeepSeep+ollama+Anythingllm如何搭建个人知识库，私有数据训练避免上网！！！
Jjavaer的博客
02-17 1824
超全DeepSeek个人知识库搭建记录，小白都能搞定
ollama+anythingllm+deepseek R1本地部署
云袂的博客
02-07 4631
ollama+anythingllm+deepseek R1本地部署
AnythingLLM：五分钟在家用电脑快速搭建一个具备本地知识库能力的智能问答系统
pythonhy的博客
02-26 2021
AnythingLLM 是一款开箱即用的一体化 AI 应用，支持 RAG（检索增强生成）、AI 代理等功能。它无需编写代码或处理复杂的基础设施问题，适合快速搭建私有知识库和智能问答系统。
AnythingLLM一键AI私有知识库! 支持多种大模型、RAG 和 AI Agents！
Y525698136的博客
10-25 1827
AnythingLLM是一个全栈AI应用程序，可以将任何文档、资源（如网址链接、音频、视频）输入大语言模型（LLM），与大模型互动。
AI本地部署之anythingLLM
nalanxiaoxiao2011的博客
03-13 956
ai 大模型本地部署 知识库搭建
必看！AnythingLLM+DeepSeek 快速构建私有知识库！
Y525698136的博客
02-12 6069
必看！AnythingLLM+DeepSeek 快速构建私有知识库！
AnythingLLM：基于RAG方案构专属私有知识库（开源｜高效｜可定制）
热门推荐
FrenzyTechAI的博客
12-13 2万+
继OpenAI和Google的产品发布会之后，大模型的能力进化速度之快令人惊叹，然而，对于很多个人和企业而言，为了数据安全不得不考虑私有化部署方案，从GPT-4发布以来，国内外的大模型就拉开了很明显的差距，能够实现的此路径无非就只剩下国内的开源大模型可以选择了。而现阶段切入大模型应用落地最合适的方案依然是结合大模型基于RAG检索增强来实现知识库的检索和生存。从而构建个人或者企业私有化的本地知识库。
五分钟打造你的专属AI助手：Ollama + DeepSeek + AnythingLLM 完整整合指南
yuanmomoya的博客
02-08 1407
预备阶段：确认系统环境符合要求，安装 Ollama、DeepSeek 模型以及 AnythingLLM 客户端。数据导入：整理待收录的文本资料，借助 AnythingLLM 构建知识图谱。模型连接：利用 Ollama 启动 DeepSeek 模型，并将其与 AnythingLLM 对接，实现语言处理与知识管理的无缝衔接。测试优化：通过多轮问答测试，对系统参数和知识库内容进行微调，不断提升问答准确率和响应速度。
DeepSeek-R1模型本地部署及知识库构建指南
03-29
内容概要：本文详细介绍了如何在本地环境中部署DeepSeek-R1模型并构建专属的知识库。首先概述了DeepSeek-R1模型的特点及其在中国乃至全球AI发展中的重要地位，随后逐步讲解了安装Ollama、下载DeepSeek-R1模型的具体...
人工智能DeepSeek模型本地部署与WebUI可视化交互：搭建大语言模型环境及应用指南
最新发布
05-06
此外，文章还讲解了如何上传本地文档来构建专属知识库，实现基于文档的问答功能。对于显存不足等问题，提供了调整模型参数等解决方案。最后，介绍了局域网共享、与Notion集成以及浏览器插件集成等高级应用，并列举了...
别只会用别人的模型了，自学Ai大模型，顺序千万不要搞反了！刚入门的小白必备！
2301_81888214的博客
02-13 760
别只会用别人的模型了，自学Ai大模型，顺序千万不要搞反了！刚入门的小白必备！
手把手教你用AnythingLLM搭建本地DeepSeek知识库，小白也能搞定！
pythonhy的博客
02-12 1956
你需要一个专属的个人知识库！今天教你用 AnythingLLM 和 DeepSeek 在本地轻松搭建一个，从此告别信息混乱，效率蹭蹭往上涨！
在Ollama的基础上，安装AnythingLLM搭建本地知识库
风迦叶的部落格
02-23 1366
在Ollama的基础上，安装AnythingLLM搭建本地知识库
AI大模型企业应用实战：Prompt让LLM理解知识
2401_84204413的博客
06-25 2608
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
打造私人专属AI = 个人知识库 + 本地化部署deepseek模型 / deepseek官方模型（AnythingLLM版）
kocor的博客
03-09 1474
打造个人知识库（AnythingLLM版）- 私人专属AI-本地化部署deepseek模型 + deepseek官方模型。 本篇介绍 AnythingLLM 的使用和配置。配置应用本地部署deepseek模型和官方deepseek模型两种方式。
在Docker上部署Ollama+AnythingLLM完成本地LLM Agent部署
INSBUG的博客
08-09 7434
不同的模型有不同的适用参数，AnythingLLM暂时还不能自动适配推荐，因此需要额外进行搜索，比如llama3:8b-instruct-q8_0模型的Max Tokens为8192。它支持多用户管理并且设置过程简单，无需繁琐的设置。Ollama官方library (ollama.com)提供了丰富的模型库，不同公司的模型还有不同的微调版本任君选择，这里选择了llama3:8b-instruct-q8_0版本，其中q8代表压缩率，q后的数字越小压缩率越高，模型文件的大小也就越小，同样的性能会有一定下降。
10分钟搞定，DeepSeek+Ollama+AnythingLLM 本地部署完全指南，打造专属知识库
m0_59164304的博客
02-06 9571
打开浏览器→下载 Ollama→输入 1 条命令→搞定！这不是魔法，而是本地部署大语言模型的全新方式。Ollama 简化了大型语言模型的运行，让每个人都能在本地轻松体验 AI 的强大。但是，仅仅运行一个大语言模型还不够。如何让它真正理解你的数据，回答你的问题？这时，AnythingLLM 就派上用场了。它能将你的文档、笔记、网页等各种数据源连接到本地 Ollama 运行的 DeepSeek 模型，构建一个真正属于你的、个性化的知识库问答系统。告别在海量信息中苦苦搜索，让 AI 成为你高效的知识助手！关于引入
Java 整合AnythingLLM
02-13
### 如何在 Java 项目中集成 AnythingLLM #### 添加依赖项 为了使 Java 项目能够利用 Anything LLM 的能力，首先需要引入必要的库文件。这可以通过 Maven 或 Gradle 来完成，在此以 Maven 配置为例： ```xml <dependencies> <!-- Hutool 工具类 --> <dependency> <groupId>cn.hutool</groupId> <artifactId>hutool-all</artifactId> <version>5.8.33</version> </dependency> <!-- OkHttp SSE 支持用于流式处理响应数据 --> <dependency> <groupId>com.squareup.okhttp3</groupId> <artifactId>okhttp-sse</artifactId> <version>4.12.0</version> </dependency> <!-- 假设存在一个特定于 Anything LLM 的 SDK 或 API 客户端 --> <!-- 下面这个依赖是假设性的, 实际应替换为官方提供的最新版本 --> <dependency> <groupId>anything.llm</groupId> <artifactId>anything-llm-client</artifactId> <version>latest.version</version> </dependency> </dependencies> ``` 上述配置展示了如何通过 `pom.xml` 文件向项目添加所需外部资源[^3]。 #### 初始化并使用 AnythingLLM 客户端 一旦所有必需的依赖被成功加入到项目的构建路径之后，就可以编写具体的业务逻辑代码了。下面给出一段简单的示例程序片段展示怎样初始化以及调用 Anything LLM 接口获取回复消息： ```java import cn.hutool.http.HttpUtil; import okhttp3.OkHttpClient; import okhttp3.Request; import okhttp3.Response; public class LangChainExample { private static final String ANYTHING_LLM_API_URL = "https://api.anything.com/v1/chat"; public static void main(String[] args) throws Exception { OkHttpClient client = new OkHttpClient(); Request request = new Request.Builder() .url(ANYTHING_LLM_API_URL) .post(HttpUtil.createPostBody(Map.of( "message", "你好", "context", "" ))) .build(); try (Response response = client.newCall(request).execute()) { System.out.println(response.body().string()); } } } ``` 这段代码创建了一个 HTTP POST 请求发送给预定义好的 Anything LLM RESTful API 地址，并附带了一些基本参数作为聊天输入内容的一部分。注意这里使用的 URL 及具体接口细节需依据实际情况调整。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值