Dify本地源码启动教程

最新推荐文章于 2024-08-22 15:56:28 发布
最新推荐文章于 2024-08-22 15:56:28 发布
阅读量930 收藏 16
点赞数 10
分类专栏： dify 文章标签： gpt llama react.js 前端
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/H_shaohui/article/details/141427007
版权

一，前置条件

操作系统软件说明

macOS 10.14 or later

Docker Desktop

将 Docker 虚拟机（VM）设置为使用至少 2 个虚拟 CPU（vCPU）和 8 GB 的初始内存。否则，安装可能会失败。有关更多信息，请参阅在 Mac 上安装 Docker Desktop。

Linux platforms

Docker 19.03 or later Docker Compose 1.25.1 or later

请参阅安装 Docker 和安装 Docker Compose 以获取更多信息。

Windows with WSL 2 enabled

Docker Desktop

我们建议将源代码和其他数据绑定到 Linux 容器中时，将其存储在 Linux 文件系统中，而不是 Windows 文件系统中。有关更多信息，请参阅使用 WSL 2 后端在 Windows 上安装 Docker Desktop

由于是源码部署，还要对Dify进行改造，所以在Windows系统进行部署。本次部署使用win11系统。

Dify官网建议源码在linux系统下启动，所以需要在Windows下安装WSL2，启动linux子系统。本次安装WSL2使用的是Ubuntu 20.04.6系统。

同时需要在Windows系统安装Docker Desktop。

下载后正常安装Docker Desktop即可。然后注册账号进行登录。后续需要在Docker Desktop上拉取镜像。

二、部署过程

1. 拉取源码

在Windows系统，拉取源码即可:

git clone https://github.com/langgenius/dify.git
2. 拉取必要镜像

首先，打开拉取的Dify源码代码，在docker文件夹中，打开docker-compose.middleware.yaml文件，看里面定义的镜像已经版本。
包括:

image: postgres:15-alpine
image: redis:6-alpine
image: semitechnologies/weaviate(此处注意，官网定义的版本在Docker Desktop中不能拉取到，所以把版本去掉了，拉取最新版本镜像)
image: langgenius/dify-sandbox:0.2.1
image: ubuntu/squid:latest
在Docker Desktop中搜索上面镜像，点击pull进行拉取(不要使用Docker Desktop启动镜像)，如下图所示:

3. 启动容器

通过WSL2系统进入到下载的Dify源码文件夹中，进入docker 文件夹。

在启用业务服务之前，我们需要先部署 PostgresSQL / Redis / Weaviate（如果本地没有的话），可以通过以下命令启动： 

cd docker
cp middleware.env.example middleware.env
docker compose -f docker-compose.middleware.yaml up -d

注:Windows系统安装了Docker Desktop后，WSL2系统也可以使用docker命令。

这里遇到一个坑，安装官网操作，上述命令应该能正常启动docker容器。但是在实际操作中postgres容器启动报错。报错信息是:

initdb: error: could not change permissions of directory "/var/lib/postgresql/data/pgdata"

没有操作/var/lib/postgresql/data/pgdata的权限。通过查看docker-compose.middleware.yaml中的定义，如下图:

在PGDATA和volumes中定义了此路径。

这里的解决方案是绕了一个弯解决此问题，因为我是用源码启动进行Dify源码的学习，所以数据是否要挂载出来并没有太大影响，所以我选择不进行此路径的挂载。同时，PGDATA的系统变量我也不再进行设置，而是使用它的默认值。

这里，我用Docker Desktop来启动postgresql镜像，并没有使用docker compose来启动。

首先，把WSL中使用docker compose启动的postgresql容器stop，然后将其rm删掉。因为这个容器一直报错一直重启，无法正常使用。然后在Windows的Docker Desktop下，启动postgresql镜像，并按照docker-compose.middleware.yaml中的配置来设置启动参数(volumes和PGDATA除外)，如下图所示:


这样可以正常启动postgres容器，且在WSL2中也可以正常使用。

4. 启动后台服务

后台服务包括一个api service（API 接口服务），一个Worker Asynchronous Queue Consumption Service（Worker 异步队列消费服务）。需要启动这两个服务。

4.1.安装基础环境

服务器启动需要 Python 3.10.x。建议使用 pyenv 快速安装 Python 环境。

要安装其他 Python 版本，请使用 pyenv install。

注意：如果pyenv安装不成功，可以直接在官网下载window版本的python3.10版本，直接安装。

pyenv install 3.10

要切换到 "3.10" Python 环境，请使用以下命令:

pyenv global 3.10

准备好python环境后。

4.2.启动步骤
  1. 进入 api 目录
    cd api
  2. 复制环境变量配置文件
    cp .env.example .env
  3. 生成随机密钥，并替换 .env 中 SECRET_KEY 的值
    openssl rand -base64 42
sed -i 's/SECRET_KEY=.*/SECRET_KEY=<your_value>/' .env
  4. 安装依赖包

    Dify API 服务使用 Poetry 来管理依赖。您可以执行 poetry shell 来激活环境。
    Poetry 是一个 Python 依赖管理和打包工具，它旨在简化包的安装、依赖管理和项目发布过程。
    在大多数情况下，可以使用 Python 的包管理器 pip 来安装 Poetry。

    pip install poetry

    这将下载并安装 Poetry 及其依赖。
    安装完成后，你可以通过运行以下命令来验证 Poetry 是否已正确安装：

    poetry --version

    安装api服务需要的python依赖

    poetry env use 3.10
poetry install

    **注意**，如果poetry env use 3.10安装不成功，显示报错。
    将3.10直接替换成python的安装地址上。
    1.通过“poetry env list”命令查看环境是否为空，下图表示.venv的虚拟环境准备成功。如果为空，执行下面（1.1，1.2）的命令。

    1.1.通过"which python"命令查看python的安装地址，例如：“/d/soft/devTool/python/install/python”。
    1.2.执行“poetry env use /d/soft/devTool/python/install/python”。

    2.执行“poetry env info”命令，检查虚拟环境是否准备成功。如果成功，执行“poetry install”安装需要的python环境依赖。

  5. 执行数据库迁移

    将数据库结构迁移至最新版本，初始化postgres表数据。

    poetry shell
flask db upgrade

    **注意:**执行到这里时，出现了报错，具体报错博主没有进行记录。大概错误也是少python包。根据报错提示，pip install或者poetry install对应的包，再执行此命令，就可以成功。

  6. 启动 API 服务
    flask run --host 0.0.0.0 --port=5001 --debug

    正确输出：

    * Debug mode: on
INFO:werkzeug:WARNING: This is a development server. Do not use it in a production deployment. Use a production WSGI server instead.
 * Running on all addresses (0.0.0.0)
 * Running on http://127.0.0.1:5001
INFO:werkzeug:Press CTRL+C to quit
INFO:werkzeug: * Restarting with stat
WARNING:werkzeug: * Debugger is active!
INFO:werkzeug: * Debugger PIN: 695-801-919
  7. 启动 Worker 服务

         用于消费异步队列任务，如数据集文件导入、更新数据集文档等异步操作。 Linux / MacOS 启动：

celery -A app.celery worker -P gevent -c 1 -Q dataset,generation,mail,ops_trace --loglevel INFO

        如果使用 Windows 系统启动，请替换为该命令：

celery -A app.celery worker -P solo --without-gossip --without-mingle -Q dataset,generation,mail,ops_trace --loglevel INFO

       正确输出：

 -------------- celery@TAKATOST.lan v5.2.7 (dawn-chorus)
--- ***** ----- 
-- ******* ---- macOS-10.16-x86_64-i386-64bit 2023-07-31 12:58:08
- *** --- * --- 
- ** ---------- [config]
- ** ---------- .> app:         app:0x7fb568572a10
- ** ---------- .> transport:   redis://:**@localhost:6379/1
- ** ---------- .> results:     postgresql://postgres:**@localhost:5432/dify
- *** --- * --- .> concurrency: 1 (gevent)
-- ******* ---- .> task events: OFF (enable -E to monitor tasks in this worker)
--- ***** ----- 
 -------------- [queues]
                .> dataset          exchange=dataset(direct) key=dataset
                .> generation       exchange=generation(direct) key=generation
                .> mail             exchange=mail(direct) key=mail

[tasks]
  . tasks.add_document_to_index_task.add_document_to_index_task
  . tasks.clean_dataset_task.clean_dataset_task
  . tasks.clean_document_task.clean_document_task
  . tasks.clean_notion_document_task.clean_notion_document_task
  . tasks.create_segment_to_index_task.create_segment_to_index_task
  . tasks.deal_dataset_vector_index_task.deal_dataset_vector_index_task
  . tasks.document_indexing_sync_task.document_indexing_sync_task
  . tasks.document_indexing_task.document_indexing_task
  . tasks.document_indexing_update_task.document_indexing_update_task
  . tasks.enable_segment_to_index_task.enable_segment_to_index_task
  . tasks.generate_conversation_summary_task.generate_conversation_summary_task
  . tasks.mail_invite_member_task.send_invite_member_mail_task
  . tasks.remove_document_from_index_task.remove_document_from_index_task
  . tasks.remove_segment_from_index_task.remove_segment_from_index_task
  . tasks.update_segment_index_task.update_segment_index_task
  . tasks.update_segment_keyword_index_task.update_segment_keyword_index_task

[2023-07-31 12:58:08,831: INFO/MainProcess] Connected to redis://:**@localhost:6379/1
[2023-07-31 12:58:08,840: INFO/MainProcess] mingle: searching for neighbors
[2023-07-31 12:58:09,873: INFO/MainProcess] mingle: all alone
[2023-07-31 12:58:09,886: INFO/MainProcess] pidbox: Connected to redis://:**@localhost:6379/1.
[2023-07-31 12:58:09,890: INFO/MainProcess] celery@TAKATOST.lan ready.

三、前端页面部署

Web 前端客户端页面服务

1.安装基础环境

Web 前端服务启动需要用到 Node.js v18.x (LTS) 、NPM 版本 8.x.x 或 Yarn。

  • 安装 NodeJS + NPM

进入 https://nodejs.org/en/download，选择对应操作系统的 v18.x 以上的安装包下载并安装，建议 stable 版本，已自带 NPM。

2.启动步骤

  1. 进入 web 目录

    cd web

  2. 安装依赖包

    npm install

  3. 配置环境变量。在当前目录下创建文件 .env.local，并复制.env.example中的内容。根据需求修改这些环境变量的值:

    # For production release, change this to PRODUCTION
NEXT_PUBLIC_DEPLOY_ENV=DEVELOPMENT
# The deployment edition, SELF_HOSTED
NEXT_PUBLIC_EDITION=SELF_HOSTED
# The base URL of console application, refers to the Console base URL of WEB service if console domain is
# different from api or web app domain.
# example: http://cloud.dify.ai/console/api
NEXT_PUBLIC_API_PREFIX=http://localhost:5001/console/api
# The URL for Web APP, refers to the Web App base URL of WEB service if web app domain is different from
# console or api domain.
# example: http://udify.app/api
NEXT_PUBLIC_PUBLIC_API_PREFIX=http://localhost:5001/api

# SENTRY
NEXT_PUBLIC_SENTRY_DSN=
NEXT_PUBLIC_SENTRY_ORG=
NEXT_PUBLIC_SENTRY_PROJECT=

  4. 构建代码

    npm run build

  5. 启动 web 服务，建议通过“npm run dev”启动，或者以下的命令启动：

    npm run start
# or
yarn start
# or
pnpm start

正常启动后，终端会输出如下信息：

ready - started server on 0.0.0.0:3000, url: http://localhost:3000
warn  - You have enabled experimental feature (appDir) in next.config.js.
warn  - Experimental features are not covered by semver, and may cause unexpected or broken application behavior. Use at your own risk.
info  - Thank you for testing `appDir` please leave your feedback at https://nextjs.link/app-feedback

四、访问 Dify

最后，访问 http://127.0.0.1:3000 即可使用本地部署的 Dify。

H_shaohui
关注
  • 10
    点赞
  • 踩
  • 16
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
如何在本地正确部署Dify服务
Python进阶专栏《爬虫实战进阶》，《数据分析入门与实战》原创作者
08-06 401
本文是该专栏的第49篇，后面会持续分享python的各种干货知识。Dify是一个开源的LLM（大型语言模型）应用开发平台，旨在为开发者提供从Agent构建到AI workflow编排、RAG检索、模型管理等全方位的能力，从而轻松构建和运营生成式AI原生应用。在本文中，笔者将针对Dify的核心知识点以及“本地如何部署Dify”，进行详细说明。具体细节部分，笔者在正文将结合实际完整图文案例进行详细说明，一文让你轻松学会在本地部署Dify。废话不多说，下面跟着笔者直接往下看正文详细内容。（附完整操作以及本地部署D
Dify-生成式 AI 应用创新引擎，本地搭建以及使用
我码玄黄的博客
07-29 675
`Dify` 可以说就是界面化的 `LangChain`，从构建到发布一个聊天程序，完全脱离了编码，并且灵活的使用了各种 `api` 和工具。
本都部署Dify
最新发布
haojiajin的博客
08-22 812
本地搭建Dify系统
diffy接口测试demo
想要成为酷盖但是失败的小明
05-18 1242
diffy接口测试demo diffy原理图，这里就不讲了，可以去github看文档。这里就记录下写的小demo～ 使用flask编写一个接口脚本作为 primary code，app.py（写了一个 /hello 的get接口）； 复制一份primary code作为备份，app_bak.py； 修改primary code 作为待测版本，app_candidate.py（在 /hello 中增加字段 “name“）； 克隆diffy源码并进行sbt编译 git clone https://gith
从零开始之Dify二次开发篇
u013563715的博客
06-24 5628
Dify传送门。基于Docker Compose的Dify部署：Dify Docker Compose部署篇传送门。Dify 源码部署篇传送门。本文将详细描述基于Dify的二次开发流程，适合小白食用。
Dify源码本地部署启动
敲代码的小小酥的博客
06-15 3024
agent智能体框架Dify的源码部署以及源码下载
开源RAG，本地mac启动 dify源码服务
Angus
05-23 2176
参考官方文档来操作，基本没太大的问题。一些细节，我在本篇文章中补充了出来。这篇文章主要讲以源码的方式启动后端服务，前端服务使用容器启动。Dify 本地源码部署文档（有本地源码部署，我们才能在源码上继续做修改）先知道要花费多少资源这里docker 容器，占用了8个G的内存！# 创建名为 dify 的 Python 3.10 环境# 切换至 dify Python 环境可以进入到自己的代码常用目录，再拉取代码进入到dify目录可以看到请记住web 和 api的路径，后边会用到。
Mac 本地启动 Dify
chechenshi的博客
06-23 504
官方文档：https://github.com/langgenius/dify/blob/main/api/README.md。官方文档：https://github.com/langgenius/dify/tree/main/web。创建环境 python3.10 并安装依赖。安装 node18 版本。
从零开始之Dify源码部署篇
u013563715的博客
03-18 9733
Dify传送门。本系列文章从零开始探索Dify的功能及搭建过程。本文的搭建流程是基于本地源码进行部署。Dify Docker Compose部署篇传送门。
AI应用程序开发工具：dify
01-10
一个用于创建强大的AI应用程序的开发工具，它提供了插件和数据集的API，以及一个用于快速工程和可视化操作的...对于想要开发应用程序的开发者和研究人员，dify提供了方便的工具和接口，帮助他们构建功能丰富的AI应用。
Dify 是一个易用的 LLMOps 平台
05-15
Dify 是一个易用的 LLMOps 平台，旨在让更多人可以创建可持续运营的原生 AI 应用。Dify 提供多种类型应用的可视化编排，应用可开箱即用，也能以“后端即服务”的 API 提供服务。通过 Dify 创建的应用包含了：开箱即...
dify-bin:dify bin-wrapper，使其可以作为本地依赖项无缝使用
05-23
const dify = require ( 'dify-bin' ) ; dify ( [ '--output' , 'diff.png' , 'left.jpg' , 'right.jpg' ] , ( err , out ) => { if ( err ) { if ( err . isDifferent ) { console . log ( 'Changes detected' ...
Dify v0.6.9源码部署
NLP工程化
07-08 1799
Dify平台用到技术栈主要是Celery、Docker、Flask、Nginx、Postgresql、Python、React Flow、React、Redis、Weaviate等。分析源码系统比较核心的还是搞懂数据表结构和业务操作流程，相对来说前后端数据库框架还是比较固定和成熟的。
009-Wsl-Ubuntu部署Dify-【AI超车B计划】
weixin_37897145的博客
05-14 2755
Dify 是一款开源的大语言模型(LLM) 应用开发平台，它融合了后端即服务和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。工作流: 在画布上构建和测试功能强大的 AI 工作流程，利用以下所有功能以及更多功能。全面的模型支持: 与数百种专有/开源 LLMs 以及数十种推理提供商和自托管解决方案无缝集成，涵盖 GPT、Mistral、Llama3 以及任何与 OpenAI API 兼容的模型。完整的支持模型提供商列表可在此处找到。Prompt IDE。
Linux系统使用Docker快速部署一个简单易用的LLM平台Dify
ks_wyf的博客
05-16 1450
Linux系统使用Docker快速部署一个简单易用的LLM平台Dify
Dify.AI：简单易用的 LLMOps 平台，可视化创造和运营你的 AI 原生应用
热门推荐
Dify
05-16 1万+
Dify.AI是一款 LLMOps 平台，帮助开发者更简单、更快速地构建 AI 应用。它的核心理念是通过可声明式的 YAML 文件定义 AI 应用的各个方面，包括 Prompt、上下文和插件等。Dify 提供了可视化的 Prompt 编排、运营、数据集管理等功能。这些功能使得开发者能够在数天内完成 AI 应用的开发，或将 LLM 快速集成到现有应用中，并进行持续运营和改进，创造一个真正有价值的 AI 应用。
Dify：开源语言模型应用开发平台
weixin_42684490的博客
04-18 1494
这是一个开源的LLM应用开发平台，用于快速从原型转化为生产。
Dify入门指南
NLP工程化
07-02 1770
生成式 AI 应用创新引擎，开源的 LLM 应用开发平台。提供从 Agent 构建到 AI workflow 编排、RAG 检索、模型管理等能力，轻松构建和运营生成式 AI 原生应用，比 LangChain 更易用。一个平台，接入全球大型语言模型。不同应用场景，自由体验、无缝切换，实现业务层和模型层解耦。
ubuntu 部署dify，xinference
u010233524的专栏
04-09 675
Xorbits inference 是一个强大且通用的分布式推理框架，是为大型语言模型、语音识别模型和多模态模型提供服务，甚至可以在笔记本电脑上使用。Dify 支持以本地部署的方式接入 Xinference 部署的大型语言模型推理和 embedding 能力。Dify: Do it for you. 词源于Define+Modify，是一个LLMOps平台，使用者可以不需要关注基础设施的底层原理就能落地AI应用，并持续运营的一个平台.然后就会下载xinference的python库,安装一系列依赖库。
dify源代码本地化部署
08-15
DIFY（Data Infrastructure for Federated YOLO）是一个用于联邦学习（Federated Learning）的开源框架，它主要用于处理图像识别任务，特别是通过YOLO（You Only Look Once）算法。DIFY的源代码本地化部署通常涉及以下几个步骤： 1. **下载和安装**：首先从GitHub或其他官方仓库克隆DIFY的源代码到本地服务器，并安装所需的Python库，如TensorFlow、PyTorch等。 2. **配置环境**：根据项目的README文件或文档设置适当的环境变量，例如数据库连接信息、模型路径、计算资源等。 3. **数据准备**：本地化部署需要准备训练和测试用的数据集，这可能包括对原始数据进行预处理和划分成适合模型训练的部分。 4. **构建模型**：根据DIFY提供的指南，选择合适的模型结构，或者自定义模型配置并进行编译。 5. **训练过程**：使用本地计算资源运行DIFY的训练脚本，开始模型的训练和更新过程。在分布式环境中，可能还需要配置多节点通信和同步机制。 6. **验证和评估**：定期评估模型性能，检查是否达到预期效果，可能需要调整超参数或优化流程。 7. **部署应用**：如果DIFY是作为服务的一部分，可以将训练好的模型集成到实际应用程序中，以便实时处理来自用户端的数据。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值