deepseek+dify零成本部署本地知识库保姆级教程_dify 本地部署

最新推荐文章于 2025-04-15 16:31:44 发布
最新推荐文章于 2025-04-15 16:31:44 发布
阅读量7.3k 收藏 121
点赞数 43
文章标签： 人工智能 自然语言处理 大模型 语言模型 AI大模型 deepseek AI
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qingkahui24689/article/details/145956815
版权

一、本地部署模型

ollama官网：Ollama

下载ollama

在这里插入图片描述

ollama基本命令：

#查看版本号
ollama -v

#列出本地所有可用的模型‌
ollama list

#删除一个已安装的模型‌
ollama rm [模型名称]

安装后查看版本号

在这里插入图片描述

安装成功！

搜索 deepseek-r1

在这里插入图片描述

在这里插入图片描述

具体参数可参照配置表自行选择

在这里插入图片描述

出现success安装成功！

在这里插入图片描述

dify官网：Dify.AI · 生成式 AI 应用创新引擎

部署dify首先下载dokcer docker官网：https://www.docker.com/

文档链接：Deploy with Docker Compose | Dify

在这里插入图片描述

将 Dify 源代码克隆到本地机器：

git clone https://github.com/langgenius/dify.git

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈

启动 Dify
  1. 导航到 Dify 源代码中的 Docker 目录
cd dify/docker
  1. 复制环境配置文件
cp .env.example .env

在这里插入图片描述

3.启动 Docker 容器

  如果您有 Docker Compose V2，请使用以下命令：

docker compose up -d

 如果您有 Docker Compose V1，请使用以下命令：

docker-compose up -d

如果遇到报错：

Error response from daemon: Get "https://registry-1.docker.io/v2/": net/http: request canceled while waiting for connection (Client.Timeout exceeded while awaiting headers)

在这里插入图片描述

问题是镜像源没有配置国内的镜像源

Linux系统设置如下：

vi /etc/docker/daemon.json

配如下地址：

{
"registry-mirrors": [
"https://2a6bf1988cb6428c877f723ec7530dbc.mirror.swr.myhuaweicloud.com",
"https://docker.m.daocloud.io",
"https://hub-mirror.c.163.com",
"https://mirror.baidubce.com",
"https://your_preferred_mirror",
"https://dockerhub.icu",
"https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"
]
}

重新加载配置文件及docker服务：

systemctl daemon-reload

重启docker服务：

systemctl restart docker

windows系统设置如下：

配置文件：

{
"registry-mirrors": [
"https://2a6bf1988cb6428c877f723ec7530dbc.mirror.swr.myhuaweicloud.com",
"https://docker.m.daocloud.io",
"https://hub-mirror.c.163.com",
"https://mirror.baidubce.com",
"https://your_preferred_mirror",
"https://dockerhub.icu",
"https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"
]
}

然后重启docker服务

在这里插入图片描述

再次执行：

docker compose up -d

在这里插入图片描述

dify 安装完成！会有docker名字的这个容器

在这里插入图片描述

访问 http://localhost/install 设置账号密码 设置好后

在这里插入图片描述

找到模型供应商，添加模型

在这里插入图片描述

模型名称自定义可以填写对应的名称 deepseek-r1:7b

url地址填写：

http://host.docker.internal:11434

在这里插入图片描述

保存

在这里插入图片描述

在这里插入图片描述

选择保存

在这里插入图片描述

在这里插入图片描述

创建应用

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

这里就可以访问了，创建本地的知识库，需要用到Embedding 模型，测试bge-m3性能最高

安装bge-m3

ollama pull bge-m3

在这里插入图片描述

在这里插入图片描述

添加模型

在这里插入图片描述

名字可以已定义，url还是设置

http://host.docker.internal:11434

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

设置成功，现在可以创建知识库

在这里插入图片描述

选择上传的知识文件

在这里插入图片描述

上传下一步

在这里插入图片描述

选择高质量，只用引擎，向量搜索

在这里插入图片描述

点击保存处理

在这里插入图片描述

嵌入中

在这里插入图片描述

嵌入已完成

在这里插入图片描述

添加知识库

在这里插入图片描述

选择添加

在这里插入图片描述

读取的知识库，我的电脑配置没那么高，用7b的响应了1分钟，配置高的可以选择高版本的

在这里插入图片描述
读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
在这里插入图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。
在这里插入图片描述
在这里插入图片描述

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
在这里插入图片描述

功城师
关注
【初级篇】如何使用DeepSeek和Dify构建高效的企业级智能客服系统
网易搬砖头
03-10 1890
定义‌：Dify知识库是基于RAG（检索增强生成）技术的结构化数据管理系统，支持企业将文档、FAQ、规范信息等非结构化数据进行向量化处理，供大语言模型（LLM）动态调用‌。‌核心作用‌实时信息更新‌：通过持续更新知识库内容，确保LLM生成回答时依赖最新数据，避免因预训练数据过时导致的错误‌。‌精准上下文支持‌：用户提问时，系统通过关键词检索召回知识库中高相关度的内容区块，为LLM提供补充信息，提升回答准确性‌。‌多场景适配。
DeepSeek+Dify极速集成：3小时搭建企业级AI知识库.pdf
02-19
在日常的工作和学习中，你是否常常为处理复杂的数据、生成高质量的文本或者进行精准的图像识别而烦恼？DeepSeek 或许就是你一直在寻找的解决方案！它以其高效、智能的特点，在各个行业都展现出了巨大的应用价值。然而，想要充分发挥 DeepSeek 的优势，掌握从入门到精通的知识和技能至关重要。本文将从实际应用的角度出发，为你详细介绍 DeepSeek 的基本原理、操作方法以及高级技巧。通过系统的学习，你将能够轻松地运用 DeepSeek 解决实际问题，提升工作效率和质量，让自己在职场和学术领域脱颖而出。该文档【DeepSeek+Dify极速集成：3小时搭建企业级AI知识库】共计 20 页，文档内容完整、条理清晰。文档内所有文字、图表、目录等元素均显示正常，无任何异常情况，敬请您放心查阅与使用。
【Windows环境】Ollama+DeepSeek+Dify个人知识库本地构建保姆级教程：从安装到知识库搭建详细步骤
04-11
安装及其可能遇到的问题和解决方案，还涉及了设置镜像源、中文界面配置等细节。最后，文档介绍了如何通过Docker加载并访问Dify项目，完成知识库的搭建。 适合人群：适合有一定计算机基础，特别是对Windows环境下的软件安装和配置有一定经验的研发人员内容概要或个人开发者。 ：本文档详细使用场景及目标介绍了在Windows环境下：①帮助部署Ollama用户在本地环境中、DeepSeek、快速部署和运行Dify以及个人大语言模型（知识库的步骤如DeepSeek），。Ollama满足个人开发者或作为轻量化的大语言模型引擎，小型团队的研究和简化了DeepSeek开发需求；②通过Dify项目，用户可以模型的安装与管理流程，提供了方便地管理和扩展跨平台支持和自己的知识库，提升工作效率；性能优化。安装Ollama时③适用于希望了解或使用大语言，用户可以通过官网下载并自定义模型和知识库安装路径，避免管理工具的个人占用C盘空间或企业用户。 。接着，文档阅读建议：此讲解了如何下载文档内容详尽和运行DeepSeek，涵盖从安装模型，强调了到配置的每一步骤，建议保持命令行窗口不关闭的重要性。读者在实际操作过程中对照文档逐步对于Dify的部署，文档不仅进行，同时注意涵盖了源码下载根据自身环境调整、Docker Desktop相关参数和路径。对于初次接触的安装与配置，还解决了启动这些工具的用户，建议先熟悉失败的常见问题，并指导用户设置了基本概念和术语镜像源和，再动手实践。中文界面。最后，通过容器加载Dify并在浏览器中访问，完成了知识库的搭建。 适合人群：对大语言模型和知识库构建感兴趣的个人开发者、研究人员，尤其是有一定Windows操作系统基础和编程经验的用户。 使用场景及目标：①希望通过本地化部署实现高效、便捷的大语言模型应用开发；②掌握从安装、配置到运行整个过程中涉及的技术细节，如环境变量设置、Docker容器管理等；③构建个人或小型团队的知识管理系统，提升信息管理和检索效率。 阅读建议：本教程适合按步骤逐步实践，建议读者在操作过程中仔细对照每一步骤，特别是在安装和配置环节，遇到问题时可以参照提供的解决方案进行排查。同时，结合实际需求调整安装路径和配置参数，确保系统资源合理利用。
deepseek+dify零成本部署本地知识库保姆级教程
热门推荐
qq_42217708的博客
02-06 1万+
下载安装后查看版本号安装成功！搜索具体参数可参照配置表自行选择出现success安装成功！
Dify本地安装部署笔记
yinshuilan的专栏
03-25 2379
Dify 是一个让你轻松构建 AI 应用的开源平台，简单来说就是给开发者打造的一站式AI应用开发工具。Dify 兼容 Langchain，支持多种大语言模型（LLM）。目前支持的模型供应商包括 OpenAI、Azure OpenAI、Anthropic、Replicate、Hugging Face、ChatGLM、Llama2、MiniMax、讯飞星火、文心一言和通义千问等。换句话说，Dify 就是一个帮你快速、高效地开发和优化 AI 应用的万能工具箱。
【大模型学习笔记】0基础本地部署dify教程
机器学习菜鸟
03-01 2348
在docker 安装包路径下cmd命令窗口下执行下面的命令。
1000字学会deepseek+dify本地化知识库部署
a1045022235的博客
02-10 553
Ollama 支持直接从其模型库中拉取 DeepSeek 相关模型。如果docker仓库拉取不到可以使用本地镜像部署。设置 Docker 开机自启。添加 Docker 仓库。下载并安装 Ollama。启动 Ollama 服务。添加有问题可以换个仓库。
DeepSeek + Dify部署本地大模型和知识库
huang9604的博客
02-06 6773
DeepSeek + Dify部署本地大模型和知识库
DeepSeeK+Dify本地部署
wal1314520的博客
02-21 3163
最近在研究Dify，刚好空下来就把在windows下Dify的部署流程给大家安排上，希望能够帮到想研究的小伙伴们。
使用dify+deepseek部署本地知识库
u010198709的博客
03-17 1224
随着AI工具的广泛使用，利用现有的AI工具(例如deepseek、豆包、kimi、GPT等)可以大副度地提升日常的工作效率。但对于企业来说，为考虑数据的安全性，可以考虑本地部署AI，避免数据泄露。同时通过搭建自己本地的知识库，实现定制化的功能。
本地部署DeepSeek R1+Dify+SearXNG：联网智能体
2401_85327249的博客
02-21 4302
使用Deepseek总是服务繁忙，其他第三方平台又虽然也部署了满血版本。但是对于不想把自己的资料喂给第三方的同学，那就不得不部署本地版本的啦 我的配置：6G显存，32G内存，运行DeepSeek-r1:14B用得非常舒服，同时发现其实14b的也不差，甚至觉得比第三方平台要更好用。
银河麒麟服务器V10SP1-2403+Dify+Deepseek（本地&在线） 本地构建知识库（保姆级）（无需翻墙）-物料
02-25
银河麒麟服务器V10SP1-2403+Dify+Deepseek（本地&在线） 本地构建知识库（保姆级）（无需翻墙）-物料
DeepSeek本地部署与Dify结合创建私有知识库指南
weixin_52037378的博客
02-27 1064
DeepSeek通过与Dify的结合，用户能够将个人资料、专业文章、日常日记等多种形式的文本内容上传至本地知识库，从而创建出一个能够满足个人需求的私人助理。
windows本地化部署Dify+Deepseek
qq_45020145的博客
03-01 6265
windows本地化部署Dify+deepseek简要教程
【AI大模型】DeepSeek+dify 本地知识库：真的太香了，手把手教你搭建部署！！
2401_85325557的博客
04-10 1317
我们之前说的知识库都是广义知识库。 在关于模型哪里我们说了，我们可以通过提示词临时注入知识，给大模型，但是大模型的上下文是有长度限制的，我们通过各种技术把最合适的内容挑选出来，然后给大模型。
新手详细教程—dify本地部署运行
最新发布
cao138148的博客
04-15 787
到这里，配置环境已经完成了，如果需要操作，可以去Dify官网看文档操作，还挺详细的。到这里，配置的环境已经完成了，接下来就是关于Dify项目的内容。
DeepSeek+dify 本地知识库：真的太香了
大华的程序人生
02-21 4724
哪里我们说了，我们可以通过提示词临时注入知识，给大模型，但是大模型的上下文是有长度限制的，我们通过各种技术把最合适的内容挑选出来，然后给大模型。由于我的dify安装的比较早，是0.7.x版本，为了给大家演示，就把原来的铲了。点击工作室，我们可以看到有很多丰富的应用，包括聊天助手、agent、工作流等 我们选择最简单的应用，聊天助手，点击5，创建空白应用。默认占用的是80和443端口，如果你本机已经部署了其他的应用，占了该端口，修改.env文件中的下面两个变量。需要注意的是dify，上传文件是有大小限制的。
Dify 本地部署教程
Muti-Agent
03-09 2358
到这里，Dify 就安装完成了，更多操作设置可以参考官方文档，Dify 和 FastGPT 基本上差不多，也可以同时安装一下 FastGPT 进行体验~Docker Compose 部署 | Dify。
dify本地部署教程
09-02
Dify是一个假设的产品，所以我无法提供一个具体的教程。但是，我可以提供一个通用的本地部署流程，这个流程适用于许多不同的应用和软件。请根据你的具体应用进行适当的调整： 1. 环境准备：首先确保你的本地机器满足软件运行的所有硬件和软件要求。这通常包括操作系统、必要的库文件、依赖项以及可能需要的任何服务或驱动程序。 2. 获取软件：下载所需软件的安装包或源代码。对于需要编译的程序，你可能需要先安装编译环境（如Java JDK、Python等）。 3. 安装数据库：如果应用需要数据库，安装数据库管理系统，如MySQL、PostgreSQL或MongoDB，并创建所需的数据库和用户。 4. 配置软件：根据应用需求设置配置文件，这可能包括数据库连接信息、服务器端口、应用密钥、第三方服务的API密钥等。 5. 启动服务：如果软件包含服务端程序，按照其文档进行启动。这可能涉及运行一个或多个命令来启动数据库服务、应用服务器、消息队列等。 6. 测试部署：部署完成后，进行一系列测试以确保应用按预期工作。这可能包括访问应用的用户界面、执行一些核心功能测试，以及监控应用的性能和资源使用情况。 7. 安全配置：确保应用的安全设置是正确的，包括用户认证、权限控制、防火墙设置和数据加密等。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值