Dify本地化部署流程和使用说明
本教程包含搭建本地私有化聊天助手,以及工作流的方法
本文是《华为昇腾MindIE+Dify本地私有化部署大模型 经验分享》系列文章的第二篇。分享了本地化部署Dify和使用API接入大模型(在线大模型、华为NPU驱动的本地大模型)的经验。
文章目录
Dify是什么?
Dify是一个开源的LLM应用开发平台。其直观的界面结合了AI工作流、RAG管道、Agent、模型管理、可观测性功能等,可以实现快速从原型到生产。
1.系统要求
在安装 Dify 之前,请确保机器满足以下最低系统要求:
CPU | >= 2 Core |
---|---|
RAM | >= 4 GiB |
2.Dify本地部署
2.1 下载并安装Docker和Docker Compose
部署Dify之前,需要先安装好Docker和Docker Compose,以管理Dify镜像。国内访问可以在Docker中文网上下载,选择对应系统安装:
https://docker.github.net.cn/get-docker/
2.2 在GitHub上下载Dify压缩包
或在终端执行:
git clone https://github.com/langgenius/dify.git
2.3 在终端启动Dify服务
可以直接使用docker客户端提供的终端界面进行操作:
在终端里输入如下命令:
docker --version
docker-compose --version
检查docker是否已经成功安装。成功安装会返回版本号:
通过cd命令进入如下路径,以Dify下载在桌面为例:
cd .\Desktop\dify-main\docker\
再执行如下语句设置环境文件:
cp .env.example .env
最后启动容器:
<