关于dify使用指南

关于Dify

dify提供了一套完整的使用工具,包括LLM大语言模型,RAG,以及自定义工具,就类似一个超级大脑,可以整合各个功能,同时LLM充当了大脑的核心,用于调度各个资源。

使用dify可以实现:

  1. RAG智能问答

    Api文档搜索问答、知识库搜索问答

  2. Agent 智能体

    图像生成、文本生成、3D生成

  3. ChatFlow 工作流

    api工具人

使用方法

1、发布独立网址
2、嵌入网站(支持iframe,script)
3、api请求

组成模块


1、RAG检索
通过向量嵌入的模式将文档变成可检索的数据格式,根据用户需要进行文档搜索匹配(算法:余弦相似度、点积)
在这里插入图片描述

2、LLM 大语言模型
利用LLM理解用户的输入,更好的输出,关键在于prompt的写法,常用的如:chatgpt、deepseek、qwen

3、第三方工具
ComfyUI、Hunyuan3d、FireCrawl、钉钉、企业微信

  • api 导入,使用openai-swagger 规范,可以直接导入api接口参数
  • 工具插件,需要涉及到源码的工具编写,可以实现更复杂的逻辑

使用形式


1、ChatFlow专注于人机之间的对话和互动

  • 优点:对话模型,适用于简单任务
  • 缺点: 需要编排复杂的工作流程,对复杂的任务,需要复杂的逻辑,功能相对单一死板
  • 使用场景:客服支持、个人助理、在线购物助手、互动问答

2、Agent

  • 优点:自主性强:能够独立地处理任务,做出决策,LLM充当了ai的大脑,相对灵活,我们只需要把知识库和工具给到Agent,它可以自动推理出需要的参数,然后进行工具调用,同时合理输出结果
  • 缺点:可能不够稳定,可能会误解用户的意图
  • 使用场景:客服系统、个人助理、数据监测

3、文本生成助手

  • 优点: 使用简单、稳定
  • 缺点: 功能单一
  • 使用场景:撰写论文、报告、编写博客

4、Workflow一系列任务或操作的有序流程

  • 优点:逻辑性强,任务和过程的管理到位
  • 使用场景:项目管理、业务流程自动化、工作流管理系统、文档审批
  • tips: Workflow可以作为工具集成在其他系统中,以实现更复杂的应用场景。

AI大模型说明

参考:大模式参数使用说明

提示词类型

1、系统(System): 指定世界整体框架和设置,包括AI行为规范和任务指令。系统部分可以设定模型的操作规则或者给出初步的指引,指导用户如何与助手进行交互。

2、用户(User): 指的是与助手进行互动的个人或实体。用户提出问题、请求或任务,目的是获得信息、解决问题或完成某项工作。

3、助手(Assistant): 是指大语言模型本身,它根据用户的输入提供响应、信息或服务。助手的任务是理解用户的需求,并尽可能准确、及时地提供相关的帮助。

![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/88be3e52174144cab517493b5c5e746b.png

大模型的参数

1、Temperature(温度):控制输出的词概率分布来控制低概率的词被选中,0-1,越接近0越精确

2、Top P:阈值 P,0-1,越大代表出现的词的累积概率越大,0.9代表低概率的词被丢弃

3、Frequency Penalty(频率惩罚): 对出现的频率增加惩罚,频次越多,惩罚越大,1代表惩罚加大

4、Presence Penalty(存在惩罚): 对出现过的词语进行惩罚,1代表惩罚越大

5、Max Tokens:即输出的最大token值,不要太大,不然输入可能不够


节点讲解

在这里插入图片描述

  • LLM 大模型

关键内容在于,提示词的写法还有我们需要处理的变量,以及输出的内容,比如,输出json格式

在这里插入图片描述

  • 输入的文件或变量定义

在这里插入图片描述

工具导入方式

1、通过api的openai-swagger 方式直接导入
2、通过编辑插件定制化,如3d生成、图像生成
在这里插入图片描述

案例

小红书文案助手

在这里插入图片描述

  • 提示词
<instruction>
你是一个小红书高级文案写手,根据用户输入的{{query}},进行小红书文案的生成,包括标题,内容文案
</instruction>

<output>
内容文案加上✨🚀🌞这类的表情文字,内容文案需要加上你认为最合适的3个标签,以#开始
</output>

文生图工作流

结合comfyui

输入文本-》翻译成英文-》进行提示词润色-》生成对应的提示词-》参数输入到comfyui工具-》输出图像

1、插入comfy节点
在这里插入图片描述
2、插入LLM节点,编写提示词,也可以让ai自动生成
在这里插入图片描述

参考提示词


<instruction>
你是一个ai提示词高手,针对comfyui,flux dev1.0,我会给你提示词,帮我优化下提示词,如果是中文的,你需要转换成英文,只要输出英文提示词就可以了
</instructions>

<examples>
Input: 一只红色的龙在云中飞行
Output: a red dragon, flying in the clouds, detailed scales, wings spread, dynamic pose, fantasy style
</example>
<example>
Input: 一个女孩在森林里弹吉他
Output: a girl, playing guitar, in a forest, soft lighting, green trees, peaceful atmosphere, realistic style
</example>
<example>
Input: 未来城市的夜景
Output: futuristic city, night scene, neon lights, skyscrapers, flying cars, cyberpunk style, detailed architecture
</example>

文档搜索

构建平台文档助手

1、将编写好的结构化文档进行知识库向量编码
点击知识库 ->创建知识库->上传现有文档
在这里插入图片描述
2、分段的话,推荐父子分段,搜索效果更好,文档需要进行规范化
3、索引方式默认选择高质量检索就行了

在这里插入图片描述
4、嵌入完毕,可以测试下召回的效果,可能会出现搜出来不匹配
在这里插入图片描述
在这里插入图片描述
5、使用文档

  • 新建一个Agent或者ChatFlow
  • 使用知识检索节点
  • 在LLM中引入上下文变量
  • LLM会根据文档作出回答
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

如果是Agent, 直接选择上下文

在这里插入图片描述

Tips:关键在于文档的结构化标准
工作流文档,可以参考:https://docs.dify.ai/v/zh-hans/guides/workflow

做一个3d生成的agent

在这里插入图片描述

参考案例

如何搭建 AI 图片生成应用

AI Agent 实战:搭建个人在线旅游助手

使用文件上传搭建文章理解助手

使用知识库搭建智能客服机器人

ChatFlow 实战:搭建 Twitter 账号分析助手

DeepSeek 与 Dify 集成指南:打造具备多轮思考的 AI 应用

如何训练出专属于“你”的问答机器人?

教你十几分钟不用代码创建 Midjourney 提示词机器人

如何在几分钟内创建一个带有业务数据的官网 AI 智能客服

如何在 Dify 内体验大模型“竞技场”?以 DeepSeek R1 VS o1 为例

加入社群

请添加图片描述
在这里插入图片描述

内容概要:本文档详细介绍了Dify应用开发平台的部署流程。Dify作为一个结合了BaaS与LLMOps理念的开源大语言模型应用开发平台,主要面向开发者及希望参与AI应用构建的人群。部署前,需保证系统已装好docker和git,这是用于拉取项目代码和运行环境的基础工具。具体部署操作分为几步执行:首先是新建dify文件夹作为存放项目的主目录,在此之下利用git指令从指定的GitHub地址克隆整个Dify源代码下来;其次是在获取的项目根路径找到docker相关脚本所在位置,依次复制配置示例环境变量,借助docker compose来一键启动所有的组件。一旦发现控制台提示共有九个容器均处于健康运转状态便标志着Dify部署完成。部署完毕后,访问浏览器输入特定URL即可打开初始设置页面录入管理后台账号基本信息,从而开始Dify之旅。 适用人群:对快速创建基于大语言模型的生成式AI应用感兴趣的初学者或者有一定编程经验想要深入定制或拓展该平台功能的技术爱好者。无论是IT专业人员还是非技术人员都可以从中受益并且参与到应用程序定义及其相关的数据运营管理工作中。 使用场景及目标:适用于那些想要在本地环境中试用或是进行自定义开发的企业内部研究团队或者个人开发者。其目的在于使用户能够脱离复杂的云服务搭建出一套完整的AI解决方案原型系统以便进行演示和技术验证活动。 其他说明:部署指南提供了详细的命令行操作指导,每一步都有明确指示。需要注意的是部署过程中可能涉及到较长时间等待,特别是第一次拉起全部服务时。另外还提到若无法通过命令获取代码可选择直接下载预先打包好的版本。对于网络条件不是很好或者是遇到了技术难题的情况下不失为一种折衷方法。同时提醒初次使用的用户务必牢记创建超级管理员账户所需的认证凭证资料。
### IntelliJ IDEA SSH 远程连接配置教程 #### 一、准备工作 为了确保能够顺利地通过SSH协议连接至远程服务器,在开始之前需确认已获取目标机器的IP地址、登录用户名以及相应的私钥文件或密码。 #### 二、设置远程开发环境 在IntelliJ IDEA中实现远程开发功能,可通过JetBrains Gateway工具来完成。当指定主机名与用户名并提交验证信息(如密钥或密码),Gateway负责建立安全shell (SSH)链接,并自动检测是否存在可用的IDE后端;如果不存在则会从官方站点下载最新版进行部署[^1]。 #### 三、具体操作流程 进入IntelliJ IDEA界面后按照如下路径找到远程开发选项:`File -> Remote Development`。随后点击`New Connection`按钮新建一个连接实例。在此过程中需要准确无误地填入必要的身份认证资料,包括但不限于服务器地址、账户名称等基本信息。接着依据提示输入正确的访问凭证——这可能是预先设定好的秘钥或者是简单的字符型密码。最后一步是从给定列表里挑选合适的IDE版本号及定义好项目的存储位置[^2]。 ```bash # 打开终端测试连通性 ssh username@remote_host_ip_address ``` #### 四、开启SSH终端 一旦上述步骤顺利完成,意味着已经成功建立了通往远端计算机的安全通道。此时可以尝试通过菜单栏中的`Open an SSH Terminal`选项打开内置命令行工具进一步检验网络状况或是执行其他初始化脚本工作。 #### 五、处理特殊场景下的需求 对于某些特定场合下可能涉及到更复杂的网络架构,比如企业内部网环境中想要借助中间跳板机作为中介来进行间接性的程序调试活动,则可以通过构建SSH隧道的方式来达成目的。这种方式允许开发者绕过防火墙限制从而获得更加灵活的操作权限[^4]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

东哥aigc

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值