Dify 大语言模型应用开发平台本地化部署

简介:Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员,也能参与到 AI 应用的定义和数据运营过程中。

1、克隆Dify源代码至本地

cd ~
git clone https://github.com/langgenius/dify.git

2、启动Dify

对于镜像无法拉取的情况,修改docker-compose.yaml文件

gedit .~/dify/docker/docker-compose.yaml

如下图

对于一些无法拉取的镜像,修改配置文件中的image属性。

一是image路径为相对路径的在原来的路径前面加上:swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/;

二是替换所有的ghcr.io为 ghcr.nju.edu.cn,替换所有的quay.io 为 quay.nju.edu.cn。

然后运行如下命令

cd ~/dify/docker
cp .env.example .env
docker compose up -d

第一次运行会拉取相关镜像,速度有点慢,中途也有可能断开,多试几次。

全部拉取成功后运行docker ps,查看所有服务是否都成功启动,包括 3 个业务服务 api / worker / web,以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox

成功后如下图:

3、Dify的更新

cd ~/dify/docker
docker compose down
git pull origin main
docker compose pull
docker compose up -d

每次更新需要检查.env.example,如果有新增项,需要把新增项同步到.env中,并确保.env中的设置符合本地环境。

4、启动并登陆Dify

在浏览器中输入 http://localhost 访问 Dify。登陆页面如下:

初始登录直接随便输入一个邮箱,不用输密码,点击登录后出现设置管理员账号的界面

输入邮箱、用户名、密码之后点设置进入后台界面。

  • 6
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
dify是一个开源的Python库,用于快速开发机器学习模型部署机器学习服务。它提供了一系列的工具和接口,帮助开发者在机器学习项目中更高效地进行数据处理、特征工程、模型训练和模型部署等任务。 dify的主要特点包括: 1. 简单易用:dify提供了简洁的API和丰富的功能,使得开发者可以快速上手并进行高效的开发。 2. 模块化设计:dify采用模块化的设计,每个模块都有清晰的功能和接口,可以根据需求选择性地使用。 3. 数据处理和特征工程:dify提供了丰富的数据处理和特征工程工具,包括数据清洗、特征选择、特征变换等功能,帮助开发者更好地准备数据。 4. 模型训练和评估:dify支持多种常见的机器学习算法,并提供了模型训练和评估的接口,方便开发者进行模型选择和性能评估。 5. 模型部署和服务化:dify支持将训练好的模型部署为API服务,方便其他应用程序进行调用和集成。 如果你想开发新模块,可以按照以下步骤进行: 1. 确定模块的功能和接口:明确你的模块要解决的问题,并设计好相应的功能和接口。 2. 实现模块代码:使用Python编写你的模块代码,可以借助dify提供的工具和接口来简化开发过程。 3. 测试和调试:对你的模块进行测试和调试,确保其功能正常并符合预期。 4. 文档编写:编写清晰的文档,介绍你的模块的功能、使用方法和示例代码等。 5. 提交和分享:将你的模块提交到dify的开源社区,与其他开发者分享你的成果。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

枫叶尘落

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值