Dify环境搭建&推理测试

引子

对于大模型中脚手架式的工具，之前博客一直没有涉及。最近翻了一翻相关内容，找到了Dify这个工具。OK，那就让我们开始吧。

一、框架介绍

Dify 是一个用于构建 AI 应用程序的开源平台。Dify融合了后端即服务（Backend as Service）和LLMOps理念。它支持多种大型语言模型，如Claude3、OpenAI等，并与多个模型供应商合作，确保开发者能根据需求选择最适合的模型。Dify通过提供强大的数据集管理功能、可视化的Prompt编排以及应用运营工具，大大降低了AI应用开发的复杂度。Dify是一个开源的大语言模型（LLM）应用开发平台，旨在简化和加速生成式AI应用的创建和部署。该平台结合了后端即服务（Backend as Service, BaaS）和LLMOps的理念，为开发者提供了一个用户友好的界面和一系列强大的工具，使他们能够快速搭建生产级的AI应用。

Dify特点:

1、低代码/无代码开发：Dify通过可视化的方式允许开发者轻松定义Prompt、上下文和插件等，无需深入底层技术细节。

2、模块化设计：Dify采用模块化的设计，每个模块都有清晰的功能和接口，开发者可以根据需求选择性地使用这些模块来构建自己的AI应用。

3、丰富的功能组件：平台提供了包括AI工作流、RAG管道、Agent、模型管理等丰富功能组件，帮助开发者从原型到生产的全过程。

4、支持多种大语言模型：Dify已支持主流的模型，开发者能够根据自己的需求选择最适合的模型来构建AI应用。

二、环境安装

1、代码仓库

git clone https://github.com/langgenius/dify.git/

2、环境安装

cd dify/docker

复制环境配置文件

cp .env.example .env

启动docker容器

docker compose up -d

docker compose ps

包括 3 个业务服务 api / worker / web，以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox

3、访问Dify

http://your_server_ip/install