保姆级教程：DeepSeek+RAG技术实现企业级知识库搭建（附完整部署流程）

最新推荐文章于 2025-04-14 19:55:12 发布
最新推荐文章于 2025-04-14 19:55:12 发布
阅读量7.8k 收藏 81
点赞数 44
分类专栏： DeepSeek 文章标签： 人工智能 docker 语言模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_34418186/article/details/145475140
版权

目录

1.为什么不直接使用网页版deepseek？

2.如何实现网页版DeepSeek不能实现的需求?

3.目标效果预览

4.为什么要使用RAG技术?RAG和模型微调的区别?

5.什么是Embedding?为什么需要“Embedding模型”?

6.本地部署全流程

下载 ollama，通过ollama将 DeepSeek 模型下载到本地运行

详细步骤：

1. ollama下载

2. ollama安装

3. ollama环境变量配置

4. ollama下载运行deepseek-r1模型​​​​​​​

下载 RAGflow 源代码和 Docker，通过 Docker 来本地部署RAGflow

详细步骤：

1. docker下载

2. docker安装

3. docker镜像源配置

4. RAGflow下载

​​​​​​​5. RAGflow配置文件修改

6. docker运行ragflow

在RAGflow中构建 个人知识库 并实现基于个人知识库的对话问答

详细步骤：

1.  注册及登录，第一个注册的用户为管理员

2. 模型配置​​​​​​​

3. 知识库配置

4. 问答助手配置及问答

7.只想迅速搭建个人知识库，可以不本地部署吗?

详细步骤：

1. 申请API-KEY

2. 配置大模型

1.为什么不直接使用网页版deepseek？

  • 需求: 绝对的隐私保护 和 个性化知识库构建
  • ​​​​​​​场景: 如果你希望大模型能根据你们企业的规章制度来回答问题，那么你一般需要上传企业规章制度的附件; 但你仍然可能面临的问题有:​​​​​​​
    • 数据隐私问题: 联网使用大模型数据隐私性无法得到绝对保证
    • 上传文件的限制问题: 网页版AI对于文件上传的数量、大小一般有限制并且通常需要付费
    • 仅通过附件扩展上下文功能有限: 每次在新对话中提问相关问题时，仍需要重新上传附件修改删除对话中已有的附件困难

2.如何实现网页版DeepSeek不能实现的需求?

  • 隐私保护
    • 通过对话大模型(如DeepSeek)的 本地部署 解决隐私问题
  • 个性化知识库构建
    • 使用 RAG技术 (Retrieval-Augmented-Generation，检索增强生成) 构建个人知识库。为此我们需要:
      • 本地部署RAG技术所需要的开源框架 RAGFlow
      • 本地部署 Embedding大模型 (或者直接部署自带Embedding模型的RAGFlow版本)

3.目标效果预览

  • 知识库：

  • 根据知识库问答：

4.为什么要使用RAG技术?RAG和模型微调的区别?

  • 大模型的幻觉问题
    • 在面对某些输入时，生成的内容不准确、不完整或误导性的现象
  • 微调技术和RAG技术:
    • 微调: 在已有的预训练模型基础上，再结合特定任务的数据集进一步对其进行训练，使得模型在这一领域中表现更好(考前复习)
    • RAG: 在生成回答之前，通过信息检索从外部知识库中查找与问题相关的知识，增强生成过程中的信息来源，从而提升生成的质量和准确性(考试带小抄)
    • 共同点: 都是为了赋予模型某个领域的特定知识，解决大模型的幻觉问题
  • RAG (Retrieval-Augmented Generation) 的原理:
    • 检索(Retrieval): 当用户提出问题时，系统会从外部的知识库中检索出与用户输入相关的内容
    • 增强(Augmentation): 系统将检索到的信息与用户的输入结合，扩展模型的上下文。然后再传给生成模型(也就是Deepseek)
    • 生成(Generation): 生成模型基于增强后的输入生成最终的回答。由于这一回答参考了外部知识库中的内容，因此更加准确可读

5.什么是Embedding?为什么需要“Embedding模型”?

  • 检索(Retrieval) 的详细过程:
    • 准备外部知识库: 外部知识库可能来自本地的文件、搜索引擎结果、API等等
    • 通过 Embedding (嵌入) 模型，对知识库文件进行解析: Embedding 的主要作用是将自然语言转化为机器可以理解的高维向量，并且通过这一过程捕获到文本背后的语义信息(比如不同文本之间的相似度关系)
    • 通过 Embedding(嵌入) 模型，对用户的提问进行处理: 用户的输入同样会经过嵌入(Embedding)处理，生成一个高维向量
    • 拿用户的提问去匹配本地知识库: 使用用户输入生成的这个高纬向量，去查询知识库中相关的文档片段。在这个过程中，系统会利用某些相似度度量(如余弦相似度)去判断相似度
  • 模型的分类: Chat模型、Embedding模型;
  • 简而言之: Embedding模型是用来对你上传的附件进行解析的

6.本地部署全流程

下载 ollama，通过ollama将 DeepSeek 模型下载到本地运行

  • ​​​​​​​下载ollama平台
    • ollama是一个用于本地运行和管理大语言模型(LLM)的工具。
  • 配置环境变量
    • OLLAMA_HOST  :  0.0.0.0:11434
      • 作用:让虚拟机里的RAGFlow能够访问到本机上的 Ollama
      • 如果配置后虚拟机无法访问，可能是你的本机防火墙拦截了端口11434
      • 不想直接暴露 11434 端口: SSH 端口转发来实现;
      • 更新完两个环境变量记得重启;
    • OLLAMA_MODELS  :  自定义位置
      • 作用:ollama 默认会把模型下载到C盘，如果希望下载到其他盘需要进行配置
  • 通过ollama下载模型deepseek-r1:7b
    • ollama run deepseek-r1:7b

详细步骤：

1. ollama下载

下载链接：Ollama

2. ollama安装

检测是否安装成功，cmd-ollama 如出现以下内容，则安装成功

3. ollama环境变量配置

 
​​​​​​​

4. ollama下载运行deepseek-r1模型​​​​​​​

        

下载 RAGflow 源代码和 Docker，通过 Docker 来本地部署RAGflow

  • 下载RAGflow源代码
  • 下载Docker
    • Docker 镜像是一个封装好的环境，包含了所有运行 RAGFlow 所需的依赖、库和配置
    • 如果安装遇到踩坑，可以自行搜索一下报错或者问一下gpt
    • 如果镜像拉不下来，尝试修改docker的镜像源

详细步骤：

1. docker下载

 下载链接：Docker: Accelerated Container Application Development

2. docker安装

检测是否安装成功，cmd-docker 如出现以下内容，则安装成功

3. docker镜像源配置

4. RAGflow下载

下载链接：ragflow/README_zh.md at main · infiniflow/ragflow · GitHub

$ git clone https://github.com/infiniflow/ragflow.git
​​​​​​​5. RAGflow配置文件修改

我们需要使用带有embedding models 的版本

打开.env文件，将slim版本注释，完整版注释打开

6. docker运行ragflow
$ cd ragflow
$ docker compose -f docker/docker-compose.yml up -d

使用docker ps 查看已经运行启动的镜像，如下则表示运行成功

在RAGflow中构建 个人知识库 并实现基于个人知识库的对话问答

  • docker成功启动后，浏览器输入 localhost:80 来访问RAGFlow
  • 在 “模型提供商” 中添加我们本地部署的 deepseek-r1:7b 模型
  • 在 “系统模型设置” 中配置Chat模型 (deepseek-r1:7b) 和 Embedding模型 (用RAGFlow自带的即可)
  • 创建知识库，上传文件，解析文件
  • 创建聊天助手 (注意prompt和tokens的配置)
  • 开始对话

详细步骤：

1.  注册及登录，第一个注册的用户为管理员

2. 模型配置

3. 知识库配置

4. 问答助手配置及问答

开始聊天：

7.只想迅速搭建个人知识库，可以不本地部署吗?

  • ——当然可以!这样实现起来更简单，而且效果一般来说会更好
  • 具体步骤:
    • 下载RAGFlow源代码和docker，通过docker本地部署RAGFlow(RAGFlow目前没有官方的网页版)
    • 在RAGFlow中配置任意的Chat模型和Embedding模型(你需要到这些模型对应的官网去付费申请apiKey)
  • 优点:
    • 不用本地部署大模型，简单易操作
    • 企业大模型性能一般更优越
  • 缺点:
    • 隐私安全问题
    • 调用企业大模型API的成本

详细步骤：

我们找到想要使用的API模型，去官网申请API-KEY配置后即可，以通义千问为例：

1. 申请API-KEY

2. 配置大模型

【初级篇】如何使用DeepSeek和Dify构建高效的企业级智能客服系统
网易搬砖头
03-10 1947
定义‌：Dify知识库是基于RAG（检索增强生成）技术的结构化数据管理系统，支持企业将文档、FAQ、规范信息等非结构化数据进行向量化处理，供大语言模型（LLM）动态调用‌。‌核心作用‌实时信息更新‌：通过持续更新知识库内容，确保LLM生成回答时依赖最新数据，避免因预训练数据过时导致的错误‌。‌精准上下文支持‌：用户提问时，系统通过关键词检索召回知识库中高相关度的内容区块，为LLM提供补充信息，提升回答准确性‌。‌多场景适配。
DeepSeek+本地知识库：真的太香了
一个喜欢诗和远方的程序媛
03-12 2067
两种主流的搭建方案，保姆级教程，分别是基于 Cherry Studio 和基于 AnythingLLM 的搭建方法。
中小企业私有化部署指南：DeepSeek+RAG构建行业知识库实战.pdf
02-17
在日常的工作和学习中，你是否常常为处理复杂的数据、生成高质量的文本或者进行精准的图像识别而烦恼？DeepSeek 或许就是你一直在寻找的解决方案！它以其高效、智能的特点，在各个行业都展现出了巨大的应用价值。然而，想要充分发挥 DeepSeek 的优势，掌握从入门到精通的知识和技能至关重要。本文将从实际应用的角度出发，为你详细介绍 DeepSeek 的基本原理、操作方法以及高级技巧。通过系统的学习，你将能够轻松地运用 DeepSeek 解决实际问题，提升工作效率和质量，让自己在职场和学术领域脱颖而出。该文档【中小企业私有化部署指南：DeepSeek+RAG构建行业知识库实战】共计 22 页，文档内容完整、条理清晰。文档内所有文字、图表、目录等元素均显示正常，无任何异常情况，敬请您放心查阅与使用。
【保姆级教程】Windows环境下基于DeepSeek+RAGFlow搭建企业级知识库
最新发布
呱牛 Just do IT
04-14 1688
【Windows环境保姆级教程】基于DeepSeek+RAGFlow的企业知识库搭建
DeepSeek + RAG： 让大模型更智能、更精准
kaka0722ww的博客
03-20 978
在大模型应用中，**如何保证答案的准确性和实时性** 一直是一个难题。尽管 LLM（Large Language Models）具有强大的生成能力，但它们的知识存在 **时间局限性**，并且容易产生“幻觉”（hallucination）。为了解决这些问题，**RAG（检索增强生成）** 方案应运而生。在 RAG（检索增强生成）中，检索机制负责获取相关信息，而 LLM 负责生成最终答案。DeepSeek 作为国内领先的大模型之一，可以在 RAG 体系中作为生成部分，为检索增强的上下文提供自然、准确的回答。本文
企业级DeepSeek解决方案开源！支持私有化部署！快速搭建企业RAG
2401_85375151的博客
03-02 1016
企业级DeepSeek解决方案开源项目是一个基于DeepSeek框架的企业级RAG技术智能对话系统。该项目通过结合文档检索和大语言模型，实现准确、可靠的知识问答服务，并支持多种部署方式和API接口调用。项目具有广泛的应用场景和高度的可定制性，能够满足企业不同业务场景下的需求。企业级DeepSeek解决方案开源！支持私有化部署！快速搭建企业RAG源代码。
保姆级教程：阿里QwQ-32B模型本地部署与企业级应用实战（附万字指南+工具链）
资深全栈架构师，乐于在 CSDN 分享技术见解，与大家携手共进，共攀技术巅峰！
03-07 1159
验证API（curl http://localhost:8000）克隆仓库（git clone https://...）安装依赖（CUDA 12.1 + cuDNN）启动服务（python server.py）数据来源：阿里开源文档[[4]][[6]]下载模型权重（ModelScope）
大模型技术学习系列(5): 基于langchain构建RAG应用
u011160113的博客
07-23 1473
本章中，我们回归了一下RAG的流程，并分析了下这个过程中涉及到的组件以及这些组件在langchain中对应的实现方式，并整合这些方式，实现了带RAG的大模型应用。通过这个实践过程，能够帮助我们更好的理解RAG的整个过程。
RAG与知识库搭建，手把手教你构建RAG系统
qkh1234567的博客
11-13 4081
自从发现可以利用自有数据来增强大语言模型（LLM）的能力以来，如何将 LLM 的通用知识与个人数据有效结合一直是热门话题。关于使用微调（fine-tuning）还是检索增强生成（RAG）来实现这一目标的讨论持续不断。检索增强生成 (RAG) 是一种使用来自私有或专有数据源的信息来辅助文本生成的技术。它将检索模型（设计用于搜索大型数据集或知识库）和生成模型（例如大型语言模型 (LLM)，此类模型会使用检索到的信息生成可供阅读的文本回复）结合在一起。
一文读懂RAGFlow：从 0 到 1教你搭建RAG知识库
python12345_的博客
02-26 6279
RAGFlow是一种融合了数据检索与生成式模型的新型系统架构，其核心思想在于将大规模检索系统与先进的生成式模型（如Transformer、GPT系列）相结合，从而在回答查询时既能利用海量数据的知识库，又能生成符合上下文语义的自然语言回复。该系统主要包含两个关键模块：数据检索模块和生成模块。数据检索模块负责在海量数据中快速定位相关信息，而生成模块则基于检索结果生成高质量的回答或文本内容。
开源！可商业化，企业级基于DeepSeek模型的RAG系统
m0_59164304的博客
03-05 1237
对长篇文档进行自动摘要，提取关键内容和要点，方便员工快速了解文档内容。
【实战分享】构建企业级RAG（Retrieval-Augmented Generation）知识库的全面实践
后端研发工程师Marion的博客
12-22 3193
大模型指的是训练参数量极其庞大的深度学习模型，如GPT-3、GPT-4等。这些模型能够通过海量的数据学习，具备强大的语言理解和生成能力。在问答系统中，大模型能够理解用户提出的问题，并生成相关的回答。"""添加文档向量"""pass"""相似度检索"""pass"""获取页面分段"""passMilvus是一个开源的向量数据库，专为高效的向量存储和检索设计。Milvus支持多种索引方式（如IVF、HNSW等），并提供高效的查询和检索功能。索引构建：Milvus通过创建索引加速查询速度。
【AutoDL + Langchain-Chatchat】从零构建高效本地 RAG 知识库问答系统：实战保姆级教程（含避坑指南）
拾光夕拾的博客
01-20 1274
本文详细阐述如何在AutoDL云平台，如何利用Langchain-Chatchat构建高效的本地RAG知识库问答系统，并深入解析RAG架构。从环境搭建到实战部署，从问题排查到性能优化，提供一份全面实用的指南，助力开发者快速构建智能问答应用。
【完全本地部署】DeepSeek模型+RAG技术构建本地知识库
2301_76168381的博客
02-24 2702
在当今这个信息爆炸的时代，人工智能技术正以前所未有的速度发展。其中，DeepSeek 作为新一代的 AI 选手，迅速成为行业内的焦点。DeepSeek 在多项性能测试中已经达到了 OpenAI 的最新大模型 o1 水平，部分项目还实现了超越，在多项评测中表现优异，甚至直逼世界顶尖的闭源模型 GPT-4o 和 Claude-3.5-Sonnet。
DeepSeek+Ragflow搭建个人知识库
m0_63171455的博客
02-14 6015
利用Deepseek+Ragflow搭建的知识库过程还是比较简单，正常跟着流程走不容易出错。如果投喂的数据经过整合处理，那么反馈的结果还是有一定的实际意义。当前个人能部署的模型参数太少，尚处于体验阶段。相信不久的将来，大模型不断发展，个人能部署性能更强大的模型。
结合DeepSeek-R1与RAG：如何轻松搭建高效本地知识库？
m0_63171455的博客
02-16 1096
*为确保本地知识库的高效搭建，需先准备DeepSeek-R1模型、相关文档/数据集及部署工具（如Ollama），，同时选择并配置文本嵌入模型，最后收集/整理文档并确保其唯一标识符和文本内容，**********？**大型语言模型（LLMs）虽然功能强大，。********如何使用DeepSeek-R1 + RAG搭建本地知识库？******
使用RAGFlow搭建知识库
810cheng
03-10 1363
ragflow搭建企业知识库
DeepSeek-R1 + RAG搭建本地知识库，收藏这一篇就够了！！
Gaga246的博客
02-17 2179
利用DeepSeek-R1与RAG（Retrieval-Augmented Generation，检索增强生成）技术可以快速搭建本地知识库。 为确保本地知识库的高效搭建，需先准备DeepSeek-R1模型、相关文档/数据集及部署工具（如Ollama）， 随后安装Ollama并部署DeepSeek-R1 ，同时选择并配置文本嵌入模型，最后收集/整理文档并确保其唯一标识符和文本内容， 利用文本嵌入模型转换文档为向量以构建快速检索的索引。
RAG实践 - 搭建本地知识库 - Ollama + AnythingLLM
sagima_sdu的博客
06-25 3550
RAG，即检索增强生成（Retrieval-Augmented Generation），是一种先进的自然语言处理技术架构，旨在克服传统大型语言模型（LLM）在处理开放域问题时的信息容量限制和时效性不足。RAG通过融合信息检索系统的精确性和语言模型的强大生成能力，为基于自然语言的任务提供了更灵活和精准的解决方案。
deepseek+RAG
02-07
### DeepSeek RAG 实现与应用 DeepSeek 的检索增强生成 (RAG) 技术通过融合大规模预训练模型和高效的信息检索机制，在提升大语言模型准确性方面表现出显著优势[^3]。 #### 架构概述 在架构设计上，DeepSeek RAG 主要由两部分组成： 1. **检索模块**：该模块负责从大量文档集合中提取最相关的片段。这些片段通常来自预先处理过的数据集，如经过标准化处理后的多个领域特定语料库[^2]。 2. **生成模块**：基于检索到的相关信息，此模块利用强大的编码器-解码器结构来构建连贯且精准的回答。 ```python from deepseek_rag import Retriever, Generator retriever = Retriever() generator = Generator() def rag_pipeline(query): retrieved_docs = retriever.retrieve(query) response = generator.generate(retrieved_docs, query) return response ``` #### 数据准备 为了使 RAG 更加有效，输入的数据需经过精心挑选和预处理。这包括但不限于清洗、分割以及转换成统一格式，以便于后续操作中的快速匹配和解析。 #### 使用场景 当面对复杂查询时，传统的 LLM 可能会因为缺乏上下文而难以给出满意的答复。相比之下，借助于外部知识源的支持，RAG 能够提供更加精确的结果，特别是在专业知识密集型的任务环境中表现尤为突出。
评论 11
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值