TFlowAI提出了一种基于大模型的解决方案,通过理解业务、查找数据、分析处理的过程编排,实现模型自主的基于数据库的数据查询与分析。这种方法不仅降低了开发成本,还提升了使用体验。
在B端的助手agent中,有一个重要的场景既数据的分析!那如何让模型能够理解产品的数据,理解数据结构、理解业务,准确的去数据库中查找数据,并给他客户展示呢?我们来看TFlowAI给出的解决方案
一、用户现状场景
如客服主管的Agent助手,只需一句话,Ai帮助用户快速找到想要的数据: 如:
- 今天客服接待的满意度咋样?
- 用户投诉最多的问题是那些?
- 从官网来的咨询量有多少?满意度怎样?
这些数据的查找、获取在原有产品设计中,有2个体验不好的点:
- 开发成本:新统计维度、数据项的增加,需要开发进行计算&编排
- 使用体验:数据分析维度,查看维度等等都受制于产品界面的限制;
那是否借助大模型的理解能力,来实现模型自主的基于数据库的数据查询与分析,生成报表,从而摆脱通过系统开发的方式实现数据的统计与分析。
二、解决方法
解决方法的设想:参考rag的面向过程编排的方法,将模型处理理解业务,查找数据,分析处理的过程通过workflow得形式编排,用大模型进行串联处理。
1. rag的流程
1)流程
2)流程说明
- 用户提问向量化,index检索相似片段
- 通过提示词+用户提问+check片段 打包发给大模型
- 模型进行解答
2. 大模型+BI的过程编排流程
1)流程设计
整个过程会经历问题的反写,表结构的理解,SQL的生成,SQL的执行,数据的可视化五个阶段。依次讲解下每个环节做什么。
(1)问题反写:让大模型理解query,通过提示词,让模型理解意图,当前产品有关的数据维度解释说明,计算规则等。从而将用户的需求完整的描述处理。
- 用户提问:官网线索转换了是多少?
- 模型反写:想要了解从官网注册的用户,最终购买产品的比例。计算规则:官网线索客户成交数/官网线索数
(2)理解表结构:让模型知道从那张表中获取相关的数据。通过补充表+字段的方法,让模型知道数据库中有哪些表,从而推测要用到哪些表
- 比如表结构理解输出:模型反写:想要了解从官网注册的用户,最终购买产品的比例。计算规则:官网线索客户成交数/官网线索数,要统计从线索表中筛选来源为“官网”的线索数,统计从成交订单中筛选来源为“官网”的订单数
(3)SQL生成:接住大模型或者txt2SQL等模型,将文本转为可执行的SQL
(4)执行SQL:执行上一步生成的SQL,获取其结果
(5)数据可视化:借助绘图工具,绘制趋势图等图表。同时模型对于数据进行简单的分析说明
(6)输出:对用户输出可视化的内容
整个过程的关键环节在于问题的反写与表结构的理解,需要在这个环节中用提示词给模型正确的引导,让模型能够理解清楚业务,以及用户的意图、计算逻辑。同时对于喂给大模型的内容,进行选择性的拼接。
同时也可以考虑增加娇艳环节,降低理解的出错率。
3. 进阶:融入Agent
更深度的应用,可以将大模型+bi的环节,变成Action事件,嵌入到已有的Agent当中
三、优势与问题
1. 优势
- 开发成本低:只需要数据库增加字段,提示词增加说明,即可满足用户对于数据分析的数据,开发成本大幅降低;
- 使用体验:基于模型的理解去分析,查找数据、分析数据,实时绘图,摆脱原有数据报表的限制,可以自定义进行深度的分析。
2. 问题
- 复杂数据的处理不确定,可能需要借助增加过程、借助agent等提高模型对复杂数据的处理;
- 存在幻觉、异常数据排查难度较大,过程黑盒无法排查!
如何系统的去学习大模型LLM ?
大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业
?”“谁的饭碗又将不保了?
”等问题热议不断。
事实上,抢你饭碗的不是AI,而是会利用AI的人。
继科大讯飞、阿里、华为
等巨头公司发布AI产品后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 如今大厂老板们,也更倾向于会AI的人,普通程序员,还有应对的机会吗?
与其焦虑……
不如成为「掌握AI工具的技术人
」,毕竟AI时代,谁先尝试,谁就能占得先机!
但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高。
针对所有自学遇到困难的同学们,我帮大家系统梳理大模型学习脉络,将这份 LLM大模型资料
分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程
等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓
一、LLM大模型经典书籍
AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。
二、640套LLM大模型报告合集
这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
三、LLM大模型系列视频教程
四、LLM大模型开源教程(LLaLA/Meta/chatglm/chatgpt)
LLM大模型学习路线 ↓
阶段1:AI大模型时代的基础理解
-
目标:了解AI大模型的基本概念、发展历程和核心原理。
-
内容:
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例
阶段2:AI大模型API应用开发工程
-
目标:掌握AI大模型API的使用和开发,以及相关的编程技能。
-
内容:
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望
阶段3:AI大模型应用架构实践
-
目标:深入理解AI大模型的应用架构,并能够进行私有化部署。
-
内容:
- L3.1 Agent模型框架
- L3.2 MetaGPT
- L3.3 ChatGLM
- L3.4 LLAMA
- L3.5 其他大模型介绍
阶段4:AI大模型私有化部署
-
目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。
-
内容:
- L4.1 模型私有化部署概述
- L4.2 模型私有化部署的关键技术
- L4.3 模型私有化部署的实施步骤
- L4.4 模型私有化部署的应用场景
这份 LLM大模型资料
包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程
等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓