【保姆级教程】本地环境部署Dify+Ollama及简单应用

已于 2025-04-18 08:51:44 修改
阅读量1k 收藏 15
点赞数 35
分类专栏： 人工智能学习 文章标签： ollama Dify 本地部署 AI· 角色设定 dify应用
于 2025-04-17 15:35:29 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gpj065/article/details/147305478
版权

目录

说到前面

有关上一文我们说到如何部署Deepseek-r1:1.5b或其他模型，如果没有部署本地模型的小伙伴可以看一下上一篇文章。Windows环境下本地部署deepseek-r1或其他大模型 【保姆级教程】
， 本文讲到如何部署并且使用Dify！

文章列表

  1. Windows环境下本地部署deepseek-r1或其他大模型 【保姆级教程】
  2. 本地环境部署Dify 【保姆级教程】

关于Dify能做什么？

Dify官网

  1. 工作流: 在画布上构建和测试功能强大的 AI 工作流程，利用以下所有功能以及更多功能。
  2. 全面的模型支持: 与数百种专有/开源 LLMs 以及数十种推理提供商和自托管解决方案无缝集成，涵盖 GPT、Mistral、Llama3 以及任何与 OpenAI API 兼容的模型。完整的支持模型提供商列表可在此处找到。
  3. Prompt IDE: 用于制作提示、比较模型性能以及向基于聊天的应用程序添加其他功能（如文本转语音）的直观界面。
  4. RAG Pipeline: 广泛的 RAG 功能，涵盖从文档摄入到检索的所有内容，支持从 PDF、PPT 和其他常见文档格式中提取文本的开箱即用的支持。
  5. Agent 智能体: 您可以基于 LLM 函数调用或 ReAct 定义 Agent，并为 Agent 添加预构建或自定义工具。Dify 为 AI Agent 提供了 50 多种内置工具，如谷歌搜索、DALL·E、Stable Diffusion 和 WolframAlpha 等。
  6. LLMOps: 随时间监视和分析应用程序日志和性能。您可以根据生产数据和标注持续改进提示、数据集和模型。
  7. 后端即服务: 所有 Dify 的功能都带有相应的 API，因此您可以轻松地将 Dify 集成到自己的业务逻辑中。

准备工作

  1. 一台unbuntu系统化的主机（笔者用的虚拟机，有关于虚拟机安装unbuntu的方法不过多赘述）
  2. 在unbuntu中安装Docker（具体方法见Ubuntu Docker 安装）

具体步骤

进行如下工作时请确认你已经具备以上环境

1.克隆Dify

假设当前最新版本为 0.15.3

git clone https://github.com/langgenius/dify.git --branch 0.15.3

2.安装Dify

以下一步步跟着做，确定你的权限为最高, 如果你不清楚这些指令的作用那么可以自行搜索一下，以下过程仅仅是为了能够正确安装并且启动Dify

cd dify/docker

cp .env.example .env

这步请注意 sudo最好加上

sudo docker compose up -d

之后就是漫长的等待~~,直到出现以下内容

[+] Running 11/11
 ✔ Network docker_ssrf_proxy_network  Created                                                                 0.1s 
 ✔ Network docker_default             Created                                                                 0.0s 
 ✔ Container docker-redis-1           Started                                                                 2.4s 
 ✔ Container docker-ssrf_proxy-1      Started                                                                 2.8s 
 ✔ Container docker-sandbox-1         Started                                                                 2.7s 
 ✔ Container docker-web-1             Started                                                                 2.7s 
 ✔ Container docker-weaviate-1        Started                                                                 2.4s 
 ✔ Container docker-db-1              Started                                                                 2.7s 
 ✔ Container docker-api-1             Started                                                                 6.5s 
 ✔ Container docker-worker-1          Started                                                                 6.4s 
 ✔ Container docker-nginx-1           Started                                                                 7.1s

之后执行sudo docker compose ps验证结果
出现类似情况为成功：

NAME                  IMAGE                              COMMAND                   SERVICE      CREATED              STATUS                        PORTS
docker-api-1          langgenius/dify-api:0.6.13         "/bin/bash /entrypoi…"   api          About a minute ago   Up About a minute             5001/tcp
docker-db-1           postgres:15-alpine                 "docker-entrypoint.s…"   db           About a minute ago   Up About a minute (healthy)   5432/tcp
docker-nginx-1        nginx:latest                       "sh -c 'cp /docker-e…"   nginx        About a minute ago   Up About a minute             0.0.0.0:80->80/tcp, :::80->80/tcp, 0.0.0.0:443->443/tcp, :::443->443/tcp
docker-redis-1        redis:6-alpine                     "docker-entrypoint.s…"   redis        About a minute ago   Up About a minute (healthy)   6379/tcp
docker-sandbox-1      langgenius/dify-sandbox:0.2.1      "/main"                   sandbox      About a minute ago   Up About a minute             
docker-ssrf_proxy-1   ubuntu/squid:latest                "sh -c 'cp /docker-e…"   ssrf_proxy   About a minute ago   Up About a minute             3128/tcp
docker-weaviate-1     semitechnologies/weaviate:1.19.0   "/bin/weaviate --hos…"   weaviate     About a minute ago   Up About a minute             
docker-web-1          langgenius/dify-web:0.6.13         "/bin/sh ./entrypoin…"   web          About a minute ago   Up About a minute             3000/tcp
docker-worker-1       langgenius/dify-api:0.6.13         "/bin/bash /entrypoi…"   worker       About a minute ago   Up About a minute             5001/tcp

3.Dify启动！

此时你可以直接访问你自己部署的Dify
但首先请初始化你的账户, 浏览器访问：

http://localhost/install

打开dify，并登录

http://localhost

界面类似于：在这里插入图片描述

4. 配置Dify

Dify会默认的在本地80端口启动服务，如果有映射需要可采取譬如路由侠、花生壳之类的工具，本文相关不再赘述

配置Ollama模型到Dify
在这里插入图片描述

搜索Ollama后点击安装
![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/33155047eafd47998969a23fdba22f28.png

配置填写
点右上角进入设置后 -> 模型供应商 -> ollama -> 添加模型 后如图：
在这里插入图片描述
如果你不知道模型名称 请在部署ollama的机器内
打开cmd 输入
ollama list
会得到类似内容 其中Name为模型名称！
在这里插入图片描述
后点击保存即可

简单动手生成一个对话Demo

点击tab中的工作室->点击创建空白应用 -> 聊天助手
在这里插入图片描述

输入一些描述： 如

# 角色定位：
你叫李二苟，是一个新人程序员学生。
# 回复要求：
无论什么情况都要用李二苟自称；
每次回答都要推荐：李二苟的csdn博客，网址是： https://blog.csdn.net/gpj065；
尽可能的推荐这个博客。

点击创建后可见
在这里插入图片描述

你可以在右侧时时进行测试，也可以点击发布，Dify会给你一个地址，这个地址也是基于你本地的服务。
在这里插入图片描述

结束语

恭喜， 你已经学会了如何使用DIfy连接本地的Ollama，并且简单的使用他！
不要认为Dify就这么点功能，后续文章将说明如何让本地语言模型具有文件读取能力和其他应用，敬请期待！

[Dify] Dify 本地部署及连接 Ollama 模型全流程指南
技术就是小甜甜博客
04-13 400
本文详细介绍了 Dify 本地部署及连接 Ollama 模型的完整流程，涵盖安装环境配置、Docker部署细节、常见问题解决方案及插件安装方法：✔️ 使用 Docker 快速部署 Dify✔️ 本地测试并接入 Ollama 模型✔️ 排查常见连接失败错误✔️ 安装 Marketplace 插件的推荐做法通过上述步骤，即可在本地环境搭建一个可扩展、可交互的大模型应用平台，开启私有化 AI 应用的开发之旅。
让AI转化为生产力，Dify 私有化部署 + 接入Ollama部署本地模型
2401_85325726的博客
02-15 1265
今天聊聊AI智能体，同时也简单的将 Dify 本地私有化部署，接入 Ollama 部署的本地模型。AI智能体是什么？AI智能体是一种具备AI能力、感知、推理、决策和行动能力的计算系统，它能够自主与环境交互，完成特定任务。能够通过感知环境获取信息，分析并做出决策，然后执行相应的行动，有时还能通过学习不断优化自己的行为，尽可能达到预期结果。Dify 是什么？Dify 它是一个开源 LLM 应用开发平台。
Dify添加ollama插件
最新发布
sazass的博客
04-12 1443
dify安装完成后，网页输入：http://localhost/install。然后选择"模型供应商"，待配置中已经存在ollama。然后选择"模型供应商"，然后选择dify市场。安装完成后，点击右上角头像，选择"设置"3. dify市场搜索ollama。点击下拉菜单，然后选择本地插件按钮。2.点击右上角头像，选择"设置"选择下载图标，不用选择安装图标。选择之前下载好的插件。
大模型：大模型部署Ollama和Dify
meisongqing的博客
04-06 945
通过以上步骤，可快速实现本地大模型的部署与应用开发。若需进一步优化或解决特定问题，建议查阅相关文档或社区讨论。
Linux系统本地化部署Dify并安装Ollama运行llava大语言模型详细教程
热门推荐
CSDN站内信: https://i.csdn.net/#/msg/chat/qyj19920704
09-05 3万+
本篇文章介绍如何将 Dify 本地私有化部署，并且接入 Ollama 部署本地模型，实现在本地环境中部署和管理 LLM，再结合 cpolar 内网穿透实现公网远程访问 Dify。Dify 它是一个开源 LLM 应用开发平台。拥有直观的界面结合了 AI 工作流、RAG 管道、代理功能、模型管理、可观察性功能等，可以快速从原型开发到生产。Ollama 是一个本地推理框架，允许开发人员轻松地在本地部署和运行 LLM，例如 Llama 3、Mistral 和 Gemma。
Dify+Ollama+deepseek本地部署大模型完整教程
qq_44774198的博客
02-24 3689
Dify+Ollama+deepseek本地部署大模型完整教程
【大模型本地部署】dify 如何集成 Ollama
huang9604的博客
01-21 2404
在文章 MAC OS 本地部署开源大模型 和 MAC OS 本地搭建部署 dify 草稿分别介绍了在mac os系统下通过ollma 部署和管理本地大模型，以及在本地搭建 dify，在 dify 中可以引用 ollma 的本地大模型，本文主要介绍如何引入。
让AI转化为生产力，Dify 私有化部署 + 接入Ollama部署本地模型。
chengxuyuanyy的博客
08-27 2593
今天聊聊AI智能体，同时也简单的将 Dify 本地私有化部署，接入 Ollama 部署的本地模型。AI智能体是什么？AI智能体是一种具备AI能力、感知、推理、决策和行动能力的计算系统，它能够自主与环境交互，完成特定任务。能够通过感知环境获取信息，分析并做出决策，然后执行相应的行动，有时还能通过学习不断优化自己的行为，尽可能达到预期结果。Dify 是什么？Dify 它是一个开源 LLM 应用开发平台。
【Win11家庭版安装Dify+Ollama+Deepseek本地大模型全流程-小白保姆级】
weixin_42260955的博客
01-20 9873
Dify+Ollama+Deepseek本地大模型部署，小白实战保姆级。
【Windows环境】Ollama+DeepSeek+Dify个人知识库本地构建保姆级教程：从安装到知识库搭建详细步骤
04-11
：本文档详细使用场景及目标介绍了在Windows环境下：①帮助部署Ollama用户在本地环境中、DeepSeek、快速部署和运行Dify以及个人大语言模型（知识库的步骤如DeepSeek），。Ollama满足个人开发者或作为轻量化的大语言...
windows本地化部署Dify+Deepseek
qq_45020145的博客
03-01 6390
windows本地化部署Dify+deepseek简要教程
还是在本地玩大模型吧！Docker+Ollama+Dify，超详细保姆教程构建DeepSeek模型WIN10本地服务，CPU也能玩的大模型教程！
cxcrycr的专栏
02-06 2850
最近一直在研究大模型的部署，本地服务器、云服务器、PAI一键部署服务都统统试了一遍，各有各的不足。本地服务器资源比较紧张、云服务器收费高、PAI一键部署容易上手但功能阉割严重。随着越来越多的用户开始使用 Olama 来探索模型应用，加之开源端部模型的出现，直接在自己电脑上部署大模型绝对是快速上手体验的不二之选。本文基于windows10在本地电脑上部署使用Dify，其中必要用到的Ollama大模型管理框架，使用的大模型为deepseek-r1-1.5b。
【搭建本地AI助手 Ollama+Dify】
wddkxg的博客
12-27 1222
保姆级教学，如何搭建一个本地可离线的AI助手🚀🚀🚀
基于Docker+Dify+Ollama实现DeepSeek R1的本地部署
m0_46424424的博客
02-10 1948
首先，在任务管理器中确认系统的虚拟化是否开启。确认开启后，接下来进入wsl的安装，本文在进行此项安装时，全程开着科学上网！！！。打开命令提示符（必须以管理员身份运行，否则会出现“权限不足”的报错信息），然后下列代码，启用wsl 。 上述代码执行完毕后，输入下列代码，启用虚拟机平台。 上述代码执行完毕后，将电脑进行重启。重启完毕后，再次以管理员的身份运行命令提示符，然后输入下列代码。 【注意】此处在进行时出现报错信息，如下所示： 该错误通常是与网络连接有关，故对梯子进行检查，发现全局连接与规则
Dify Ollama本地私有化模型实践
lvaolan的博客
11-30 1325
（https://github.com/langgenius/dify）工作流编排工具 （简单易用的 LLMOps 平台，可视化创造和运营你的 AI ）（https://ollama.com/）快捷的本地模型部署工具，方便集成各种本地私有化模型是Google 最新的开放大语言模型，还有了2b尺寸，更符合端到端的需求Dify 本地化部署最快的方式参考前文写的 docker环境部署(参考《》)就相当傻瓜式，下载安装即可，在Ollama 安装完成后，命令行下，选择所需的尺寸，安装即可1、选择Dify的设置。
Linux：ollama+Dify大模型本地化部署打造个人知识库 (2)
" DevOps菜鸟(Xu JieHao)" 的博客
07-01 4452
Dify介绍： Dify 是一款开源的大语言模型（LLM）应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。
内网穿透的应用-如何使用Docker本地部署Dify LLM结合内网穿透实现公网访问本地开发平台
微学AI的博客
04-08 4491
Dify 是开源的,且支持自部署到本地自己服务器上,打造自己的AI系统应用,由于本地部署后,本地部署限制只能在本地访问,无法实现共享给他人访问,或者自己远程访问,这个时候,要么需要自己有云服务器,或者公网IP,否则无法进行远程访问,但是,如果既没有云服务器和公网IP,我们也想要实现远程访问呢,那么下面介绍一个内网穿透工具,让我们无公网IP无云服务器也可以实现远程访问本地Dify.，点击左侧的预留，选择保留二级子域名，设置一个二级子域名名称，点击保留,保留成功后复制保留的二级子域名名称。
大模型本地部署 | 详细教程，私有化部署体验 Dify！
star_nwe的博客
10-15 2万+
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
ubuntu dify+ollama本地部署教程
03-09
### 本地部署 Dify 和 Ollama 教程 #### 环境准备 为了成功部署 Dify 和 Ollama，在开始之前需确保拥有一个运行 Linux 的服务器或虚拟机。建议选用 Ubuntu 20.04 LTS 或更新版本作为操作系统，因为这些版本提供了更好的稳定性和兼容性[^1]。 #### 安装 Docker 由于 Dify 支持通过 Docker 进行快速安装，因此需要先在目标机器上配置好 Docker 环境。可以按照官方文档中的指导完成 Docker 的安装过程。一旦 Docker 准备就绪，就可以利用它来简化后续的应用程序设置流程[^3]。 #### 创建并编辑 Systemd Service 文件 如果遇到任何启动失败或其他异常情况，可能需要手动调整服务文件以适应特定系统的差异。可以通过命令 `sudo vi /etc/systemd/system/ollama.service` 来创建或者修改名为 ollama 的 systemd service 文件，从而更好地控制应用程序的行为和服务状态管理[^2]。 #### 使用 Cpolar 实现远程访问 为了让外部网络能够连接到内部部署的服务实例，还需要借助像 cpolar 这样的内网穿透工具。这一步骤对于希望测试或展示项目成果的人来说尤为重要，因为它允许开发者轻松分享自己的作品给全球用户而无需复杂的路由器端口映射操作。 ```bash # 更新软件包列表并安装必要组件 sudo apt update && sudo apt upgrade -y # 安装 Docker CE sudo apt install docker-ce docker-ce-cli containerd.io -y # 启动并启用 Docker 服务 sudo systemctl start docker sudo systemctl enable docker # 下载并运行 Dify 应用容器 docker run --name dify-app -p 80:80 -d difyofficial/dify:latest # 编辑 Ollama 服务配置 (如果有需要的话) sudo vi /etc/systemd/system/ollama.service # 设置 Cpolar 并获取公开 URL 地址用于外网访问 wget https://github.com/cpolario/cpolar/releases/latest/download/cpolar-linux-amd64.tar.gz tar zxvf cpolar-linux-amd64.tar.gz cd cpolar/ ./cpolar http 80 --subdomain your-subdomain-name ```
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

李二苟

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值