玩转大模型之五(测试FastGPT高级编排)

一、高级编排

FastGPT 从 V4 版本开始采用新的交互方式来构建 AI 应用。使用了 Flow 节点编排(工作流)的方式来实现复杂工作流,提高可玩性和扩展性。但同时也提高了上手的门槛,有一定开发背景的用户使用起来会比较容易。

编排方式跟可视化规则引擎类似,用户只需要拖拽一个个任务节点,然后连线构成一个完整的逻辑处理流程,完成后该应用就可以发布了,到时候对话的时候就会触发这个流程。

下面就详细介绍编排中每个任务节点的作用。

二、模块介绍

1、AI对话

这个模块属于核心模块,使用的时候只需要配置一下模型(config.json里面配置的llmModels),然后可以设置提示词,然后这个节点就可以实现AI模型数据处理了。

2、内容提取

顾名思义,这个模块用来对用户问题进行关键信息提取的,不知道提取啥意思的同学可以网上搜索NLP处理实体提取、事件提取等知识点,这个模块可以从用户的提问中得到你想要的人物、时间、地点、动作等数据项。最后该模块会输出一个json对象到下一个模块。

3、Http请求

它是用来调用三方http服务的,支持post、get、put、delete等方式,一般这个模块需要与前面的内容提取模块搭配使用,这样的话就可以将json格式的数据传递到用户自定义的http接口当中。

4、知识库

可以关联知识库来进行搜索。

5、问题分类

将用户的问题进行关键词提取,根据设定的分类名跳转到不同的分支里面,相当于大家编程里面的if.....elseif....else。

三、实战测试

背景:实现用户问题中关键信息的提取,比如我问一个问题:帮我新增一个待办事项,标题是参加展览,对接人是李孟德,计划日期定在下周三早上9点。我希望程序帮我提取出以下几个字段:动作(新增/修改/删除)、标题、对接人、计划日期,然后将这些提取到的数据通过json格式传递到业务系统的一个http接口,实现待办事项的新增/修改处理。

1、创建一个工作流类型的应用

2、选择任务节点并连线

里面几个重要的模块:

最后,能够实现预期的效果,但是在实际测试过程中发现,模型对于有些时间信息提取错误:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

易道合之逍遥峰

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值