LLM大模型应用设计思考：大模型+bi，TFlowAI如何让大模型来检索数据

TFlowAI提出了一种基于大模型的解决方案，通过理解业务、查找数据、分析处理的过程编排，实现模型自主的基于数据库的数据查询与分析。这种方法不仅降低了开发成本，还提升了使用体验。

在B端的助手agent中，有一个重要的场景既数据的分析！那如何让模型能够理解产品的数据，理解数据结构、理解业务，准确的去数据库中查找数据，并给他客户展示呢？我们来看TFlowAI给出的解决方案

一、用户现状场景

如客服主管的Agent助手，只需一句话，Ai帮助用户快速找到想要的数据： 如：

• 今天客服接待的满意度咋样？
• 用户投诉最多的问题是那些？
• 从官网来的咨询量有多少？满意度怎样？

这些数据的查找、获取在原有产品设计中，有2个体验不好的点：

1. 开发成本：新统计维度、数据项的增加，需要开发进行计算&编排
2. 使用体验：数据分析维度，查看维度等等都受制于产品界面的限制；

那是否借助大模型的理解能力，来实现模型自主的基于数据库的数据查询与分析，生成报表，从而摆脱通过系统开发的方式实现数据的统计与分析。

二、解决方法

解决方法的设想：参考rag的面向过程编排的方法，将模型处理理解业务，查找数据，分析处理的过程通过workflow得形式编排，用大模型进行串联处理。

1. rag的流程

1）流程

2）流程说明

1. 用户提问向量化，index检索相似片段
2. 通过提示词+用户提问+check片段 打包发给大模型
3. 模型进行解答

2. 大模型+BI的过程编排流程

1）流程设计

整个过程会经历问题的反写，表结构的理解，SQL的生成，SQL的执行，数据的可视化五个阶段。依次讲解下每个环节做什么。

（1）问题反写：让大模型理解query，通过提示词，让模型理解意图，当前产品有关的数据维度解释说明，计算规则等。从而将用户的需求完整的描述处理。

• 用户提问：官网线索转换了是多少？
• 模型反写：想要了解从官网注册的用户，最终购买产品的比例。计算规则：官网线索客户成交数/官网线索数

（2）理解表结构：让模型知道从那张表中获取相关的数据。通过补充表+字段的方法，让模型知道数据库中有哪些表，从而推测要用到哪些表

• 比如表结构理解输出：模型反写：想要了解从官网注册的用户，最终购买产品的比例。计算规则：官网线索客户成交数/官网线索数，要统计从线索表中筛选来源为“官网”的线索数，统计从成交订单中筛选来源为“官网”的订单数

（3）SQL生成：接住大模型或者txt2SQL等模型，将文本转为可执行的SQL

（4）执行SQL：执行上一步生成的SQL，获取其结果

（5）数据可视化：借助绘图工具，绘制趋势图等图表。同时模型对于数据进行简单的分析说明

（6）输出：对用户输出可视化的内容

整个过程的关键环节在于问题的反写与表结构的理解，需要在这个环节中用提示词给模型正确的引导，让模型能够理解清楚业务，以及用户的意图、计算逻辑。同时对于喂给大模型的内容，进行选择性的拼接。

同时也可以考虑增加娇艳环节，降低理解的出错率。

3. 进阶：融入Agent

更深度的应用，可以将大模型+bi的环节，变成Action事件，嵌入到已有的Agent当中

三、优势与问题

1. 优势

• 开发成本低：只需要数据库增加字段，提示词增加说明，即可满足用户对于数据分析的数据，开发成本大幅降低；
• 使用体验：基于模型的理解去分析，查找数据、分析数据，实时绘图，摆脱原有数据报表的限制，可以自定义进行深度的分析。

2. 问题

• 复杂数据的处理不确定，可能需要借助增加过程、借助agent等提高模型对复杂数据的处理；
• 存在幻觉、异常数据排查难度较大，过程黑盒无法排查！

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

三、LLM大模型系列视频教程

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

• 目标：了解AI大模型的基本概念、发展历程和核心原理。

• 内容：

  • L1.1 人工智能简述与大模型起源
  • L1.2 大模型与通用人工智能
  • L1.3 GPT模型的发展历程
  • L1.4 模型工程
  • L1.4.1 知识大模型
  • L1.4.2 生产大模型
  • L1.4.3 模型工程方法论
  • L1.4.4 模型工程实践
  • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

• 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

• 内容：

  • L2.1 API接口
  • L2.1.1 OpenAI API接口
  • L2.1.2 Python接口接入
  • L2.1.3 BOT工具类框架
  • L2.1.4 代码示例
  • L2.2 Prompt框架
  • L2.3 流水线工程
  • L2.4 总结与展望

阶段3：AI大模型应用架构实践

• 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

• 内容：

  • L3.1 Agent模型框架
  • L3.2 MetaGPT
  • L3.3 ChatGLM
  • L3.4 LLAMA
  • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

• 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

• 内容：

  • L4.1 模型私有化部署概述
  • L4.2 模型私有化部署的关键技术
  • L4.3 模型私有化部署的实施步骤
  • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​