Windows 11 搭建私有知识库（docker、dify、deepseek、ollama）

已于 2025-02-13 16:45:36 修改
阅读量1.2k 收藏 6
点赞数 6
分类专栏： LLM deep learning 文章标签： docker 容器 运维 windows 人工智能
于 2025-02-13 10:25:06 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zero_forever_lzm/article/details/145604075
版权

一、操作系统信息

版本	Windows 11 家庭中文版
版本号	23H2
安装日期	‎2023/‎8/‎21
操作系统版本	22631.4460

二、搭建思路

ollama拉取deepseek、bge-m3模型

docker拉取dify的镜像

dify链接ollama使用模型，并上传文件搭建知识库，创建应用

三、搭建步骤

1.下载安装ollama，拉取模型

1.1 下载

下载链接：https://ollama.com/download

1.2 安装

将下载的文件 OllamaSetup.exe 安装

修改环境变量

重启ollama

1.3 验证是否安装成功

打开命令框

1.快捷键 win+r
2.输入 cmd
3.Enter

查看是否安装成功

ollama -v

1.4 拉取模型

deepseek模型

链接：https://ollama.com/library/deepseek-r1:1.5b
命令：ollama run deepseek-r1:1.5b

bge-m3模型

链接：https://ollama.com/library/bge-m3
命令：ollama pull bge-m3

1.5 查看拉取的模型

ollama list

2.下载安装docker

2.1 下载

下载链接：https://www.docker.com/

2.2 安装

将下载的文件 Docker Desktop Installer.exe 安装，

鼠标右键，以管理员身份运行

2.3 验证

命令：docker -v

3.在docker中拉取dify的镜像

3.1 下载dify

链接：https://github.com/langgenius/dify

3.2 拉取

解压下载的zip压缩包

找到该文件夹下的文件

dify-main -> docker -> .env.example

将该文件重命名命名为

.env

在该文件所在的文件夹下，鼠标右键点击 在终端中打开

在docker打开的前提下，在命令框中输入以下命令，将dify上传到docker

docker compose up -d

3.3 验证

打开 Docker Desktop，可看到上传的镜像

4.在dify中设置模型，搭建知识库，创建应用 个人助手

4.1 打开界面

浏览器登录，打开以下链接

http://localhost/signin

登录后，点击右上角头像 -> 设置，可参考以下图片添加模型

完成图

4.2 添加模型

4.3 模型设置

4.4 创建知识库

拖拽文件，创建知识库

4.5 创建应用

4.6 引用知识库，并更新发布，测试

四、补充

请参考该文章内容自行探索dify的其他功能

下载文件的链接若打不开，请科学上网

可尝试在Linux系统中搭建私有知识库

参考链接：

6个步骤，一文将透如何用DeepSeek本地部署以及知识库 - 知乎

十分钟用DeepSeek v3快速搭建企业级本地私有知识库（保姆级教程），AI终于私有化了！_deepseek搭建本地知识库-CSDN博客

Win10系统Docker+DeepSeek+ragflow搭建本地知识库
yilvyangguang520的博客
02-18 1811
Win10系统Docker+DeepSeek+ragflow搭建本地知识库
DeepSeek + Dify + Ollama + Docker + Linux 私有化部署，构建你的专属私人 AI 助手
s13166803785的博客
02-17 3840
通过以上步骤，你可以在 Linux 环境下使用 Docker 部署 DeepSeek、Dify 和 Ollama，构建一个专属的私人 AI 助手。构建一个专属的私人 AI 助手，结合 DeepSeek、Dify、Ollama 和 Docker 在 Linux 环境下进行私有化部署，是一个复杂但非常有价值的项目。根据需求，你可以进一步扩展和优化你的 AI 助手，例如添加更多的 AI 模型、优化性能、增加安全性等。DeepSeek 是一个强大的 AI 模型，你需要将其部署在 Docker 容器中。
Windows Docker部署Dify，容器db-1总是重启，导致http://localhost:80刷新不出来
weixin_65429391的博客
09-04 5120
找到services下的db，修改volumes，将./volumes/db/data改为postgres-data。注意，该volumes与services同级。运行完成后，容器重启，db-1恢复正常。
WIN11 企业版 部署Dify+Docker
weixin_43306095的博客
03-28 894
本地部署Docker
【Win11家庭版安装Dify+Ollama+Deepseek本地大模型全流程-小白保姆级】
weixin_42260955的博客
01-20 9711
Dify+Ollama+Deepseek本地大模型部署，小白实战保姆级。
Win11家庭版安装Dify
Zlzxzw的博客
12-20 1440
复制docker-compose.yaml中的内容，把your-acr-namespace 替换成自己的名字，然后把docker-compose.yaml放到dify/dock目录中。8、进入docker desktop，直接搜索就成功了，没有像参考博客中配置镜像，成功看到出现。4、安装docker 需要先保证Windows with WSL 2 enabled。将ubuntu安装在非C盘，import时遇到拒绝访问，可以使用管理员权限打开可解决。10.2 自己搭建自己的镜像。2、需要先安装docker。
DeepSeek+Dify搭建本地知识库大模型
G
03-03 999
通过DeepSeek和Dify，在本地搭建自有知识库大模型，使用本地文件训练。
当下热点：DeepSeek+Dify 本地知识库，用了都说太香了！
CSDN_224022的博客
02-22 2260
之前我做了个AnythingLLM+DeepSeek去搭建本地知识库的教程，我发现阅读数挺高的，说明大家挺喜欢这个系列。但是我最近又发现 Dify+DeepSeek 去搭建本地知识库才是最牛的，，比德芙还要丝滑~今天这篇文章，纯小白也可以跟着做，不需要有计算机技术基础哦，一起来动手搭建本地最强知识库吧！
Docker、Ollama、Dify 及 DeepSeek 安装配置与搭建企业级本地私有化知识库实践
qq_33665793的博客
02-09 1851
4. **DeepSeek**：DeepSeek 是一款针对大数据的搜索引擎，能够帮助企业在本地搭建高效的深度搜索系统，支持语义搜索、文档推荐、快速检索等功能，非常适合用于企业级知识库的检索和推荐服务。本文将介绍如何利用 **Docker**、**Ollama**、**Dify** 和 **DeepSeek** 等工具来搭建一个企业级本地私有化知识库，具体包括安装、配置和实现企业需求的步骤。- **多模态处理**：使用 Dify 来扩展系统的多模态功能，可以支持文本、图像等不同类型的数据输入。
超实用！用 Ollama + DeepSeek + Dify 搭建本地知识库，提升企业效率
Happiness is everywhere
02-13 3211
本文介绍了如何使用 Ollama + DeepSeek + Dify 搭建本地知识库，帮助企业高效管理信息。通过简单配置，可实现智能问答、文档检索等功能，提升效率并保障数据安全。
结合Dify+DeepSeek+Ollama搭建本地知识库记录
连小雪的代码世界
02-26 997
如果又遇到超时问题，如执行docker compose up -d 报错：Error response from daemon: Get "https://registry-1.docker.io/v2/ ": net/http: request canceled while waiting for connection (Client.Timeout exceeded while awaiting headers)访问：https://ollama.com/library/deepseek-r1。
DeepSeek本地部署+私有化部署Dify全流程详解
Ht_121212的博客
02-25 3431
通过DeepSeek本地部署与Dify私有化方案，企业可构建完全自主可控的AI系统。数据处理成本降低40%-60%知识检索效率提升300%以上模型训练周期从周级缩短至天级随着大模型技术民主化进程加速，掌握私有化部署能力将成为企业数字化转型的核心竞争力。建议定期关注DeepSeek官方文档更新（https://api-docs.deepseek.com）和Dify社区动态（GitHub仓库），持续优化AI应用生态。
Windows 11 安装 Dify 完整指南 非docker环境
大白菜代码的博客
12-24 1万+
【代码】Windows 11 安装 Dify 完整指南 非docker环境。
Win11本地从零开始部署dify全流程
最新发布
2301_80314483的博客
04-03 2158
从零开始本地部署Dify和接入大模型
Windows 本地部署 DeepSeek、Dify，以及外网访问
jaqi.csdn
02-18 711
windows 本地部署 Ollama Deepseek 和 Dify，实现公网访问
【在 Windows 系统下，用 DeepSeek R3 + Dify搭建私有知识库的超详细教程】
02-28 2596
嘿，大家好！我最近对 AI 技术特别感兴趣，尤其是想搭建一个属于自己的企业级本地私有知识库。我的电脑是 Windows 系统，还有一块超厉害的 NVIDIA GeForce RTX 3090 24G 显卡。经过一番摸索，我终于成功搭建好了，现在就来给大家分享一下这个过程，希望能帮到和我一样对 AI 充满好奇的小伙伴们。
windows环境本地部署Dify
yy869949908的博客
11-26 1万+
网上找到docker Desktop软件，并且安装（无配置，无需登录）
从零开始之Dify源码部署篇
热门推荐
u013563715的博客
03-18 2万+
Dify传送门。本系列文章从零开始探索Dify的功能及搭建过程。本文的搭建流程是基于本地源码进行部署。Dify Docker Compose部署篇传送门。
deepseek加openwebui加ollama搭建私用化rag知识库技术
04-02
<think>好的，用户想了解如何使用DeepSeek、OpenWebUI和Ollama搭建私有化的RAG知识库。首先，我需要回忆相关的引用内容，看看有没有相关的技术方案。引用[1]提到了使用LangChain-Chatchat、ollama和bge-m3搭建本地知识库，但用户这里需要的是OpenWebUI。引用[2]提到Ollama + FastGPT，可能相关。引用[3]则详细介绍了使用DeepSeekR1和Dify，支持Ollama和Ktransformer。虽然用户提到的工具是OpenWebUI，但可能需要结合这些引用中的方法进行调整。 接下来，我需要整合这些信息，给出一个可行的步骤。首先，安装Ollama作为本地模型服务，然后部署OpenWebUI作为前端界面，接着配置DeepSeek模型，最后整合RAG功能。可能需要参考引用中的向量库和Embedding设置，如默认配置，以及文件上传到知识库的步骤。此外，引用[3]提到的Dify平台可能是一个替代方案，但用户明确要求OpenWebUI，所以可能需要调整步骤。 需要注意用户提到的组件：DeepSeek、OpenWebUI、Ollama。需要确保这些工具能协同工作。例如，Ollama负责运行模型，OpenWebUI提供用户界面，DeepSeek可能作为嵌入模型或生成模型。可能需要使用bge-m3作为Embedding模型，如引用[1]所述，或者按默认设置。 然后，构建步骤时，应该分阶段：环境准备、安装各组件、配置整合、测试使用。需要详细说明每一步的具体操作，比如Docker命令、配置文件修改等。同时，要提醒用户可能遇到的常见问题，如端口冲突、模型加载问题，并给出解决建议。 最后，生成相关问题，可能涉及性能优化、扩展功能、安全措施等，这些需要基于引用中的信息，比如引用[2]提到的不同开源库的选择，引用[3]中的高效RAG实现方法。 确保回答结构清晰，步骤明确，同时引用相关文献，比如在提到向量库和Embedding时引用[1]，在讨论不同开源库时引用[2]，在涉及高效RAG配置时引用[3]。同时，保持语言自然，符合用户要求的格式，如使用中文，正确应用LaTeX格式等。</think>### 使用 DeepSeek、OpenWebUI 和 Ollama 搭建私有 RAG 知识库的技术方案 #### 一、技术组件说明 1. **Ollama**：本地大模型运行框架，支持多种开源模型（如 LLaMA3、DeepSeek 等）的快速部署[^2][^3]。 2. **OpenWebUI**：开源的 Web 交互界面，提供类似 ChatGPT 的对话体验，支持本地模型集成。 3. **DeepSeek**：可选择其开源模型（如 DeepSeek-MoE）作为 RAG 的生成模块，或使用其蒸馏版提升推理速度。 4. **RAG 核心**：包含文本向量化（Embedding）、向量数据库（如 Chroma/FAISS）、检索增强生成流程。 #### 二、搭建步骤详解 ##### 1. 环境准备 ```bash # 安装 Docker 和 Docker Compose sudo apt-get install docker.io docker-compose # 创建专用目录 mkdir ~/rag_system && cd ~/rag_system ``` ##### 2. 部署 Ollama 服务 ```bash # 拉取 Ollama 官方镜像 docker pull ollama/ollama # 启动容器（暴露 11434 端口） docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama # 下载 DeepSeek 模型（示例使用 7B 版本） docker exec -it ollama ollama pull deepseek-llm:7b ``` ##### 3. 配置 OpenWebUI ```yaml # docker-compose.yml version: '3.8' services: openwebui: image: ghcr.io/open-webui/open-webui:main ports: - "3000:8080" volumes: - ./data:/app/backend/data environment: - OLLAMA_BASE_URL=http://ollama:11434 depends_on: - ollama ``` ##### 4. 构建 RAG 流程 ```python # 伪代码示例（基于 LangChain） from langchain.embeddings import HuggingFaceEmbeddings from langchain.vectorstores import Chroma from langchain.chains import RetrievalQA # 使用 bge-m3 中文嵌入模型[^1] embedder = HuggingFaceEmbeddings(model_name="BAAI/bge-m3") vector_db = Chroma(persist_directory="./chroma_db", embedding_function=embedder) # 连接 Ollama 的 DeepSeek 模型 qa_chain = RetrievalQA.from_chain_type( llm=Ollama(model="deepseek-llm:7b"), retriever=vector_db.as_retriever() ) ``` ##### 5. 知识库管理 - 通过 OpenWebUI 上传文档（PDF/TXT/Markdown 等） - 文件自动进入预处理流程： $$文本分块 \rightarrow 向量化 \rightarrow 存入 Chroma 数据库$$ - 在对话界面启用 RAG 模式即可使用知识库增强的回答 #### 三、性能优化建议 1. 硬件要求： - 最低配置：16GB RAM + NVIDIA GTX 1080（支持 CUDA 11+） - 推荐配置：32GB RAM + RTX 3090（FP16 加速） 2. 模型选择： - 轻量场景：使用 DeepSeek 蒸馏版（4bit 量化后仅需 6GB 显存） - 精度优先：采用 DeepSeek 67B 全参数版本 #### 四、验证测试 ```bash # 检查服务状态 curl http://localhost:3000/api/health # 测试知识库检索 curl -X POST -H "Content-Type: application/json" -d '{ "query": "什么是 RAG 技术？", "knowledge_base": "tech_terms" }' http://localhost:3000/api/chat ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值