DeepSeek + Dify部署本地大模型和知识库

最新推荐文章于 2025-04-16 15:13:44 发布
最新推荐文章于 2025-04-16 15:13:44 发布
阅读量6.9k 收藏 41
点赞数 20
文章标签： 人工智能 deepseek AI大模型 LLM 程序员 dify 知识库
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/huang9604/article/details/145468275
版权

一、本地部署DeepSeek大模型

（一）下载Ollama

Ollama 是一个开源的本地化工具，旨在简化大型语言模型（LLMs）的本地运行和部署。

网址：https://ollama.com/

（二）安装deepseek-r1模型

打开电脑上的命令窗口，将刚才复制的命令粘贴到窗口然后按“回车”，就可以利用ollama部署好DeepSeek大模型了

（三）同样的方法安装嵌入模型

二、本地部署dify

（一）下载并安装部署dify的工具docker

网址：https://www.docker.com/

（二）下载dify项目压缩包

dify项目github地址：https://github.com/langgenius/dify

三）安装dify环境

在终端输入：docker compose up -d

返回docker桌面客户端可看到，所有dify所需要的环境都已经运行起来了

四）安装dify

在浏览器地址栏输入：http://127.0.0.1/install

完成注册后进入dify界面

三、为dify配置本地的deep seek大模型和嵌入模型

（一）环境配置

# 启用自定义模型

CUSTOM_MODEL_ENABLED=true

# 指定 Ollama 的 API 地址（根据部署环境调整 IP）

OLLAMA_API_BASE_URL=http://host.docker.internal:11434

（二）在dify的设置里添加模型

http://host.docker.internal:11434

刷新后在系统模型里配置

（三）同样的方式配置好嵌入模型

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

用 Ollama + DeepSeek + Dify 搭建本地知识库，提升企业效率
s13596191285的博客
03-06 319
Ollama 是一个用于自定义AI模型训练的开放平台，支持用户根据自身需求训练适配不同领域的模型。通过对不同类型数据的训练，Ollama能够帮助企业构建深度学习模型，提升信息处理能力，满足行业需求。
大模型（deepseek）之运用Dify构建智能体和工作流应用
热门推荐
qq_31400983的博客
11-17 3万+
完成设置后回到主页面，可以看到顶部的4个页面。“探索”页面提供了模板应用程序，用户可参考模板定制自己的应用程序。“工作室”页面用户可创建自己的应用，包括聊天助手、智能体、工作流。“知识库”页面用户可以通过上传自己的文本数据创建知识库增强 LLM 的上下文。“工具”页面是Dify本身集成第三方工具，用户也可自定义工具。
1000字学会deepseek+dify本地化知识库部署
a1045022235的博客
02-10 574
Ollama 支持直接从其模型库中拉取 DeepSeek 相关模型。如果docker仓库拉取不到可以使用本地镜像部署。设置 Docker 开机自启。添加 Docker 仓库。下载并安装 Ollama。启动 Ollama 服务。添加有问题可以换个仓库。
Windows下Dify的安装
最新发布
04-16 727
首先确保，Windows下的docker已经安装完毕，并且可以使用。 关于Windows下docker的安装，可以参考我的另外一篇博客： https://quickrubber.blog.csdn.net/article/details/146170500
deepseek+dify零成本部署本地知识库保姆级教程_dify 本地部署
qingkahui24689的博客
03-02 8635
deepseek+dify零成本部署本地知识库保姆级教程
deepseek+dify零成本部署本地知识库保姆级教程
qq_42217708的博客
02-06 1万+
下载安装后查看版本号安装成功！搜索具体参数可参照配置表自行选择出现success安装成功！
当下热点：DeepSeek+Dify 本地知识库，用了都说太香了！
CSDN_224022的博客
02-22 2405
之前我做了个AnythingLLM+DeepSeek去搭建本地知识库的教程，我发现阅读数挺高的，说明大家挺喜欢这个系列。但是我最近又发现 Dify+DeepSeek 去搭建本地知识库才是最牛的，，比德芙还要丝滑~今天这篇文章，纯小白也可以跟着做，不需要有计算机技术基础哦，一起来动手搭建本地最强知识库吧！
【AI大模型】DeepSeek+dify 本地知识库：真的太香了，手把手教你搭建部署！！
2401_85325557的博客
04-10 1544
我们之前说的知识库都是广义知识库。 在关于模型哪里我们说了，我们可以通过提示词临时注入知识，给大模型，但是大模型的上下文是有长度限制的，我们通过各种技术把最合适的内容挑选出来，然后给大模型。
DeepSeek+Dify本地部署知识库
02-27
DeepSeek+Dify作为一套本地部署的知识库方案，为用户提供了一种“傻瓜式”的操作体验，无需复杂的技术背景，也能顺利完成AI知识库的本地部署和运行。 首先，进行系统环境变量的设置是本地部署的先决条件。以Windows...
超实用！用 Ollama + DeepSeek + Dify 搭建本地知识库，提升企业效率
Happiness is everywhere
02-13 3401
本文介绍了如何使用 Ollama + DeepSeek + Dify 搭建本地知识库，帮助企业高效管理信息。通过简单配置，可实现智能问答、文档检索等功能，提升效率并保障数据安全。
Deepseek+Dify部署本地知识库及应用
qq_23435961的博客
02-24 1004
Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用
一文读懂！DeepSeek 与 Dify 打造 AI 应用实战指南
weixin_58753619的博客
02-27 1349
文件上传后，Dify 会自动对数据进行处理和索引，将这些知识转化为可以快速检索和利用的形式。
DeepSeek+dify 本地知识库：高级应用Agent+工作流
yxkong的专栏
03-05 3061
工作流通过将复杂的任务分解成较小的步骤（节点）降低系统复杂度，减少了对提示词技术和模型推理能力的依赖，提高了 LLM 应用面向复杂任务的性能，提升了系统的可解释性、稳定性和容错性。一个完整的工作流，必须具备开始和结束两个节点。Chatflow：面向对话类情景，包括客户服务、语义搜索、以及其他需要在构建响应时进行多步逻辑的对话式应用程序。Workflow：面向自动化和批处理情景，适合高质量翻译、数据分析、内容生成、电子邮件自动化等应用程序。
DeepSeek+dify 本地知识库：真的太香了
大华的程序人生
02-21 5345
哪里我们说了，我们可以通过提示词临时注入知识，给大模型，但是大模型的上下文是有长度限制的，我们通过各种技术把最合适的内容挑选出来，然后给大模型。由于我的dify安装的比较早，是0.7.x版本，为了给大家演示，就把原来的铲了。点击工作室，我们可以看到有很多丰富的应用，包括聊天助手、agent、工作流等 我们选择最简单的应用，聊天助手，点击5，创建空白应用。默认占用的是80和443端口，如果你本机已经部署了其他的应用，占了该端口，修改.env文件中的下面两个变量。需要注意的是dify，上传文件是有大小限制的。
DeepSeek+Dify炸场！本地知识库「私有化核弹」：效率飙涨300%，企业数据安全从此躺赢！
wind1_rain的博客
02-25 2375
操作系统： mac在使用docker进行镜像拉取的时候，存在拉取不下来，或者超时的问题，就会报docker: Error response from daemon: Get “https://registry-1.docker.io/v2/“: net/http: request canc的错误，导致无法开心的使用docker。
DeepSeeK+Dify本地部署
wal1314520的博客
02-21 3480
最近在研究Dify，刚好空下来就把在windows下Dify的部署流程给大家安排上，希望能够帮到想研究的小伙伴们。
DeepSeek + Dify ：零成本搭建企业级本地私有化知识库保姆级教程
python1222_的博客
02-14 5598
DeepSeek作为可以私有化本地部署的大模型，加上Dify这个组合，我们还可以有很多其他应用场景，比如：智能客服，智能题库。也可以把自己的个人资料，过往输出文章，日记等所有个人信息上传到本地知识库，打造自己的私人助理。Dify还有很多其他功能，有了deepseek这样的优秀国产AI大模型加持，我们可以做更多智能体应用。当然，Dify也可以像coze一样，发布为对外服务的api，这样，它就可以结合cursor快速做出更多的AI应用。何以破局，唯有行动！
【AI】DeepSeek+Dify构建知识库、Agent（智能体）、工作流、聊天助手
python1234567_的博客
02-18 7785
昨天看到一个网友说"不会使用DeepSeek，那么这东西到普通人手里，就是百度Plus版"，这么说也不无道理。为什么DeepSeek会掀起这么大的浪潮，是因为过去我们想实现的很多事情都要基于机器对自然语言的理解，比如机器人发展了很久，现在有了机器狗、人形机器人，但还是需要遥控去控制，而不具备自主思维。再比如刚出来的Gpt、文心一言，更像是拼凑起来的文字，具有浓重的程序化风格。
手把手教你将本地部署的DeepSeek R1集成到Dify
m0_63171455的博客
02-01 6323
今天，手把手教大家在本地部署DeepSeek R1，并将其集成到Dify中，实打实提升你的工作效率！本部分介绍在本地通过ollama部署DeepSeek R1。在ollama官网，选择操作系统，下载ollama应用程序并安装命令行输入ollama，出现下面的提示，则说明安装成功。在ollama官网，点击「Models」，选择第一个「DeepSeek R1」根据自己的显存选择对应的版本大小。推荐GPU：- 7B和16B之类的较小型号，消费者GPU（例如NVIDIA RTX 4090）是合适的。
Deepseek+Dify本地搭建RAG大模型私有知识库
02-26
### 构建RAG大模型私有知识库 #### 使用Deepseek和Dify实现本地部署 为了在本地环境中使用Deepseek和Dify构建RAG大模型的私有知识库，需完成一系列配置与集成操作。具体过程涉及环境准备、安装必要的软件包和服务设置。 #### 环境准备 确保拥有适合运行大型语言模型的基础架构，包括但不限于足够的计算资源（CPU/GPU）、内存空间及存储容量。此外，还需准备好支持Python编程的语言环境及相关依赖项[^3]。 #### 安装Deepseek-R1 按照官方文档指导，在服务器上部署Deepseek-r1版本的大规模预训练模型实例。此步骤通常涉及到下载权重文件、调整参数配置以适应硬件条件等操作[^1]。 #### 配置Dify平台 通过Dify提供的API接口或命令行工具连接已部署好的Deepseek-r1服务端口，使两者之间建立有效的通信链路。此时可以测试二者之间的连通性，确认消息传递正常无误[^2]。 #### 创建嵌入式索引 针对目标领域内的文本资料集执行向量化处理，生成对应的embedding表示形式，并将其导入至数据库中形成结构化的索引体系。这一环节对于后续查询效率至关重要。 #### 实现检索增强机制 设计合理的算法逻辑，使得当用户发起咨询请求时，系统能够快速定位最相关的背景信息片段作为辅助材料输入给LLM进行响应合成；同时保持对话流畅性和自然度不受影响。 ```python from dify import DifyClient import deepseek as ds client = DifyClient(api_key='your_api_key') model = ds.load_model('path_to_deepseek_r1') def get_context(query): embeddings = model.encode([query]) results = client.search(embeddings=embeddings, top_k=5) context = " ".join([r['text'] for r in results]) return context ``` 上述代码展示了如何利用Dify客户端API获取与查询语句相似度最高的几个条目，并将它们组合成一段连续的文字串供进一步分析使用。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值