Dify Rag部署并集成在线Deepseek教程（Windows、部署Rag、安装Rag安装、安装Dify安装、安装ollama安装）

已于 2025-03-12 15:06:37 修改
阅读量1.3k 收藏 19
点赞数 17
分类专栏： 人工智能 大模型LLM 文章标签： rag
于 2025-03-03 17:48:23 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Dontla/article/details/145926174
版权

文章目录

步骤

安装docker：https://www.docker.com/

安装ollama：https://ollama.com/

ollama部署deepseek：ollama run deepseek-r1:8b（我们跳过，使用在线deepseek api）

参考文章：https://ollama.com/library/deepseek-r1

安装Dify

参考步骤

参考安装步骤：https://github.com/langgenius/dify

git clone下载源码

https://github.com/langgenius/dify

git clone https://github.com/langgenius/dify.git

在这里插入图片描述

下了三次才下好：

在这里插入图片描述

在这里插入图片描述

到这个目录

dify\docker

在这里插入图片描述

执行操作

cd dify
cd docker
cp .env.example .env
docker compose up -d

windows上直接用键盘鼠标手动操作就行。

在这里插入图片描述

当前目录打开终端，执行：docker compose up -d

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

登录dify页面（先设置账户，然后登录）

http://localhost/install

在这里插入图片描述

关联deeepseek api

右上角账户，点击设置

在这里插入图片描述

点击模型供应商，选择深度求索，点击安装

在这里插入图片描述
在这里插入图片描述

设置api key

点击设置：
在这里插入图片描述

粘贴从deepseek官网拿到的api key，点击保存：

在这里插入图片描述

点击“系统模型设置”依次设置（如果没有显示就刷新下页面）

在这里插入图片描述
在这里插入图片描述
点击保存。

用ollama安装嵌入模型bge-m3

https://ollama.com/

在这里插入图片描述
在这里插入图片描述

ollama pull bge-m3

在这里插入图片描述

dify添加嵌入模型

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

bge-m3
http://host.docker.internal:11434

在这里插入图片描述

11434是ollama默认监听端口。

在这里插入图片描述

添加成功：
在这里插入图片描述

创建知识库

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

创建助手

在这里插入图片描述
在这里插入图片描述

在聊天助手中导入知识库数据

在这里插入图片描述
在这里插入图片描述

提问

在这里插入图片描述

查看prompt日志

在这里插入图片描述

查看引用信息

在这里插入图片描述

点击更新保存配置

在这里插入图片描述

Dify安装教程：Linux系统本地化安装部署Dify详细教程
人工智能
02-22 3192
Linux系统本地化安装部署Dify详细教程 docker compose 安装。环境：Ubuntu（24.10）
AGI 之 【Dify】 之 Dify 在 Windows 端本地部署调用 Ollama 本地下载的大模型，实现聊天对话
仙魁XAN
10-17 2067
AGI，即通用人工智能（Artificial General Intelligence），是一种具备人类智能水平的人工智能系统。它不仅能够执行特定的任务，而且能够理解、学习和应用知识于广泛的问题解决中，具有较高的自主性和适应性。AGI的能力包括但不限于自我学习、自我改进、自我调整，并能在没有人为干预的情况下解决各种复杂问题。Dify是一个开源的大语言模型（LLM）应用开发平台，它旨在简化和加速生成式 AI 应用的创建和部署。
Dify：使用dify搭建包含RAG的法律表述判断工作流
最新发布
CITY_OF_MO_GY的博客
03-26 1062
RAG、工作流
知识库ragflow和dify安装
redwingz的博客
03-02 1741
设置单个进程可使用的内存映射区域的最大数量，默认值为65530，以下设置为262144。由于网络限制，还是需要修改/etc/docker/daemon.json，添加镜像源。镜像拉下来之后，启动ragflow，注意进入到ragflow/docker子目录下执行命令，不然会报错。最后，创建聊天助理，关联以上创建的知识库，提示引擎中可以修改提示词，模型设置中可更换大语言模型。ragflow的安装参考官方的Quick start文档，如下。下载预编译好的docker镜像，出现如下的错误信息。
dify安装部署
qq_15821487的博客
08-13 2571
uname -a。
Dify学习笔记-入门学习（二）
大数据知识梳理
01-23 1万+
Dify学习笔记-入门学习，包括基础介绍和安装
【AI实践】Dify调用本地和在线模型服务
AI_Gump的博客
06-16 4006
Ollama可以本地部署模型，如何集成私有数据、如何外部应用程序对接，因此需要有一个应用开发框架。ip地址需要换成自己电脑的IP地址；模型名称需要和Ollama模型名称保持一致；docker是虚拟环境的主机，Ollama部署在本地主机，无法通过本机访问。找到Ollama，配置本地Ollama已经验证的模型，如phi3。在docker页面里面，也可以看到running。docker已经安装完成的情况下。，打开dify，注册登录后。在工作区选择调用即可。
自建AI平台：一步步教你搭建Dify，使用Agent工作流并实现AI微信消息生成发送
m0_59235945的博客
08-17 1万+
Dify 官方地址：https://dify.ai/官方介绍：Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。
幕僚云私有化部署Dify+Ollama+DeepSeek-r1
02-14
私有化部署Dify+Ollama+DeepSeek-r1的详细步骤可能包括系统需求分析、软硬件环境搭建、系统安装配置、功能集成测试以及后续的维护升级等环节。系统需求分析阶段，需要对企业当前的数据处理需求进行深入理解，明确...
超实用！用 Ollama + DeepSeek + Dify 搭建本地知识库，提升企业效率
Happiness is everywhere
02-13 3170
本文介绍了如何使用 Ollama + DeepSeek + Dify 搭建本地知识库，帮助企业高效管理信息。通过简单配置，可实现智能问答、文档检索等功能，提升效率并保障数据安全。
docker部署dify与ollama+deepseek大模型结合
weixin_50902225的博客
02-14 1437
de运行环境：docker +dify+ollama+deepseek。
Dify开源工作流推荐！文章仿写、小红书、教程编写啥都有！
m0_59235245的博客
11-28 1万+
我曾多次给我的小伙伴安利Dify。它是一个高效的工作流平台，支持各种常见任务的自动化操作和协作，适合自媒体人、开发者和运营人员等。Dify不仅支持多种模型调用，还可以通过开源的工作流来大大提高工作效率。Dify现在的用户量其实很多，只不过它没Coze那么多创作者，所以大家都是闭门造车。但是Dify的优势在于开源、私密，数据不用上传到平台，你在本地构建也可以。这期很简单，给大家介绍一些开源的Dify工作流。一些常用的工作流就省了自己去搞了。项目地址：https://github.com/svcvit/Awes
本地部署 AI 智能体，Dify 搭建保姆级教程（下）：知识库 RAG + API 调用，我捏了一个红楼解读大师
u010522887的专栏
08-23 1万+
通过 `红楼解读大师` 的案例，带大家动手捏了一个基于知识检索增强（RAG）的智能体
【实践案例】使用Dify构建文章生成工作流【在线搜索+封面图片生成+内容标题生成】
发现问题，面对问题，分析问题，解决问题，总结问题
01-29 2310
使用Dify构建文章生成工作流，使用工具包括：使用 Tavily 执行的搜索查询，使用Flux生成封面图片，使用Stable Diffusion生成封面图片；使用文本大模型生成科普文章内容和标题信息。
大模型本地部署 | 详细教程，私有化部署体验 Dify！
热门推荐
star_nwe的博客
10-15 2万+
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
ChatGPT 基于Dify 构建ai客服详细教程（git-docker-dify-gpt）-- 第三次更新文档
yyklbfh的博客
04-22 5919
复制包括 3 个业务服务 api / worker / web，以及 4 个基础组件 weaviate / db / redis / nginx。复制。
公用服务器部署dify，全流程版，超详细~
weixin_46376456的博客
02-18 7714
本文展示了如何将dify部署到内网服务器上，考虑到一般公司内网或者学校等特定网络可能有网络限制，因此无法直接执行一键安装脚本命令来安装docker，故采用安装包形式安装。
Dify安装与使用指南：详细步骤教程
瓦罗兰特顶级C位的博客
01-02 1万+
Dify是一个开源的LLM应用开发平台，今天咱们详细介绍下Dify的安装步骤和使用场景。
dify 集成本地ollama部署的deepseek
03-13
<think>好的，我现在需要回答用户关于如何将本地Ollama部署的DeepSeek模型进行集成的解决方案或指南的问题。首先，我需要回顾一下Ollama的基本使用方法，以及DeepSeek模型的特点。根据用户提供的引用资料，Ollama支持通过命令行拉取和运行模型，比如使用`ollama run deepseek-r1`这样的命令。同时，DeepSeek官网可能有相关的部署指南，需要结合这两部分的信息。 接下来，我应该分步骤来组织答案。首先是环境准备，确保Ollama已经正确安装，并且系统满足运行模型的硬件要求。然后，安装DeepSeek模型可能需要通过Ollama的命令行工具或者从官方网站下载。接下来是集成部分，可能需要通过API或者编写脚本调用本地运行的模型。此外，用户可能需要优化性能，比如调整线程数或量化模型。最后，验证集成是否成功，并可能提供一些常见问题的解决方法。 需要注意的是，用户提供的引用中提到Ollama支持在ollama.com/search获取模型列表，而DeepSeek有本地部署的指南，因此需要确保步骤中引用这些资源。同时，要检查是否有遗漏的步骤，比如权限问题或者依赖安装。可能还需要提醒用户查阅官方文档以获取最新信息，因为工具和模型可能会有更新。 另外，用户的问题可能涉及到实际应用中的集成，比如如何将模型嵌入到现有的应用程序中，或者如何通过REST API进行调用。需要确认Ollama是否提供这样的接口，或者是否需要额外的配置。例如，Ollama可能提供本地服务器，监听某个端口，允许通过HTTP请求发送提示并接收响应。 最后，确保回答结构清晰，分点说明，并附上相关引用。同时，生成的相关问题需要围绕部署、优化、应用场景和故障排除展开，这样用户如果有进一步的问题，可以找到对应的信息。</think>### 如何集成本地 Ollama 部署 DeepSeek 解决方案指南 #### 一、环境准备与模型部署 1. **安装 Ollama** - 访问 Ollama 官网（https://ollama.com/download）下载对应操作系统的安装包，完成基础环境配置[^1]。 - 验证安装是否成功：终端输入 `ollama --version`，返回版本号即表示成功。 2. **获取 DeepSeek 模型** - 通过 Ollama 支持的模型列表（https://ollama.com/search）搜索 `deepseek-r1` 或其他 DeepSeek 系列模型。 - 使用命令行拉取模型： ```bash ollama pull deepseek-r1 ``` 3. **运行模型** - 启动本地模型服务： ```bash ollama run deepseek-r1 ``` - 输入测试提示（如“你好”），观察模型是否能正常生成响应。 --- #### 二、集成到本地应用 1. **通过 REST API 调用** Ollama 默认监听 `11434` 端口，可通过以下示例代码发送请求： ```python import requests response = requests.post( "http://localhost:11434/api/generate", json={ "model": "deepseek-r1", "prompt": "如何优化模型推理速度？", "stream": False } ) print(response.json()["response"]) ``` 2. **使用官方客户端库** 参考 Ollama Python 库（`pip install ollama`）简化调用： ```python import ollama response = ollama.generate(model="deepseek-r1", prompt="解释量子计算") print(response["response"]) ``` --- #### 三、性能优化与配置 1. **GPU 加速（如支持）** - 确保系统已安装 CUDA 驱动，启动 Ollama 时添加参数： ```bash OLLAMA_GPU_LAYERS=12 ollama run deepseek-r1 ``` - 调整 `GPU_LAYERS` 值以匹配显存容量[^2]。 2. **模型量化** 若资源有限，可使用低精度版本（如 4-bit 量化）： ```bash ollama pull deepseek-r1:4b ``` 3. **线程数调整** 在启动命令中指定 CPU 线程数（例如 8 线程）： ```bash OLLAMA_NUM_THREADS=8 ollama run deepseek-r1 ``` --- #### 四、验证与调试 1. **基础功能验证** - 运行 `ollama list` 确认模型已正确加载。 - 检查日志：`tail -f ~/.ollama/logs/server.log` 2. **压力测试** 使用 Apache Bench 模拟高并发请求： ```bash ab -n 100 -c 10 -p prompt.json http://localhost:11434/api/generate ``` --- #### 五、扩展应用场景 1. **构建知识库助手** 通过 RAG（检索增强生成）架构，将模型与本地文档数据库（如 ChromaDB）结合。 2. **开发自动化工具** 集成到 CI/CD 流程中，实现代码审查、文档生成等任务。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Dontla

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值