GBI(生成式商业智能)实际业务生产落地运用上的探索和实践

前言

最近在探索如何发展AI在业务上的驱动力时了解到了生成式商业智能这一概念，同时本人也在探索ChatBI这一技术的实际落地运用，其实二者几乎在实现效果层面是一个意思，GBI(Generative Business Intelligence)是偏向业务方面，而ChatBI更多是偏向技术方面。二者最终导向都是实现让企业可以更加快速地实现从数据到决策的转化，满足企业在不同场景下的数据分析需求。

具体来说前者核心功能是通过生成式模型自动化地生成多层次的业务洞察、深度分析和预测结果。这种系统能够从多模态的数据中学习，不仅仅局限于已有数据，还能在新业务场景中提供前瞻性的分析和个性化建议。ChatBI 的核心功能是通过自然语言处理技术解析用户的查询，并以聊天方式提供基于已有数据的分析和报表。这种系统主要依赖于用户提问和预先设定的数据查询规则，重点在于通过对话简化数据访问和获取过程。

那么能够训练出特定领域场景的智能分析AI Agent的话，结合ChatBI直观快速的获取到的数据，就可做出较为准确精准的决策。基于上述理念是可以支撑业务去设计模式的，本人在此方面做出了一些探索现在分享给大家，期待能够受到大家的反馈和思考。

一、何为GBI？

生成式商业智能（GBI, Generative Business Intelligence）是一种新兴的商业智能（BI）形式，利用生成式人工智能（如 GPT、BERT 等大语言模型）来实现自动化的商业分析、数据洞察和业务决策支持。与传统 BI 系统依赖于结构化数据和预先定义的报表不同，GBI 通过智能化的数据生成能力，从海量数据中学习并提供更加灵活、动态的商业分析。

GBI 的核心技术包括生成式 AI 模型、自适应学习算法和自然语言处理（NLP）。这些技术能够从海量、多源的数据中提取信息，并通过生成内容的方式，直接为用户提供个性化的分析报告和业务洞察。这种能力使得 GBI 能够动态应对复杂的商业需求，无需依赖预先定义的查询和报表。传统 BI 需要用户手动查询，而 GBI 能够实时分析动态数据：

GBI 允许用户通过自然语言与系统进行交互，用户无需掌握复杂的 SQL 查询或数据建模技术，即可通过语言描述自己的需求，系统则通过生成式 AI 自动生成相应的结果。

GBI实际业务使用场景可以有很多，比如

个性化营销与需求预测

• 通过 GBI 分析历史销售数据、市场趋势和客户反馈，生成个性化的营销策略。例如，GBI 可以基于客户的购物历史自动生成推荐产品和促销方案。

• GBI 系统能够从各类数据（销售数据、社交媒体评论、市场动态）中提取趋势，自动生成客户需求预测报告，帮助企业优化库存管理。

示例：

• GBI 自动生成销售预测：基于季节性趋势和社交媒体分析，生成未来三个月的产品需求预测报告，帮助企业提前规划库存。
• GBI 分析客户反馈：通过分析客户评论数据，生成关于特定产品的满意度报告，并提出优化产品的建议。

财务报告自动生成与风险管理

• 使用 GBI 自动生成季度财务报告，涵盖收入、支出、利润分析等关键指标。GBI 从多个财务系统中采集数据，并生成自然语言描述，减少了手工操作。

• GBI 还能够实时监控市场动态，分析可能影响金融风险的因素（如利率波动、市场异常变化），自动生成风险分析报告，帮助管理层制定风险应对策略。

示例：

• GBI 自动生成财务报表：通过收集所有财务系统中的数据，自动生成季度或年度财务报告，并根据变化的市场条件提供个性化财务建议。
• GBI 风险监控：实时监控外汇市场，通过生成式 AI 自动生成可能的市场风险预测，并建议调整投资组合。

生产优化与供应链管理

• GBI 通过分析生产线上的传感器数据、原材料供应数据以及客户订单数据，自动生成生产流程优化报告，帮助企业提升产能。

• GBI 可以生成供应链管理报告，分析供应商表现、交付延迟和库存状态，提出优化供应链的策略。

示例：

• 生产流程优化报告：GBI 基于生产线数据生成关于机器维护和产能优化的报告，帮助工厂自动检测故障并提出维护建议。
• 供应链预测：GBI 自动分析供应链数据，生成供应商绩效报告和预测供应链风险，建议企业更换供应商或调整订单。

GBI 正处于快速发展的阶段，它结合了生成式 AI 的强大能力和传统商业智能的分析深度，为企业提供了更灵活、动态和个性化的商业决策支持。虽然面临一些技术和商业上的挑战，但随着技术的成熟和落地应用的扩大，GBI 在多个行业展现出广泛的应用前景，未来其自动化能力和生成能力将继续推动数据驱动业务决策的变革。

二、GBI总体架构设计

GBI（生成式商业智能）的深层实现架构需要集成多种技术和系统，以支持数据的采集、处理、分析、生成式模型的应用以及最终用户的业务决策支持。设计这样一个架构时，需要在技术选型上综合考虑系统的性能、可扩展性、数据处理能力、生成式 AI 模型的效率以及用户交互的友好性。

GBI 的总体架构可以分为以下几个关键层次：

1. 数据层：负责数据的采集、存储和管理，支持结构化和非结构化数据的处理。
2. 模型层：主要包含生成式 AI 模型、自然语言处理模型以及数据分析模型。
3. 服务层：提供生成报告、数据查询、用户交互等核心业务功能，通过 API 对外暴露服务。
4. 应用层：用户通过应用层与系统交互，实现业务洞察的获取与决策支持。

+-----------------------+        +-------------------------+
|     应用层 (UI)       |<------>|   用户交互服务（NLP）    |
+-----------------------+        +-------------------------+
          ^                                    |
          |                                    v
+----------------------+        +-------------------------+
|  商业逻辑服务层 (API) |<------>|    生成式 AI 模型层      |
+----------------------+        +-------------------------+
          ^                                    |
          |                                    v
+-----------------------+        +-------------------------+
|    数据处理与分析层    |<------>|   数据存储与管理层       |
+-----------------------+        +-------------------------+

1.数据层

GBI 需要处理多源异构数据，因此数据层的设计必须具备强大的数据采集、存储和处理能力，支持结构化、半结构化和非结构化数据。

数据存储技术：

• 关系型数据库（如 MySQL, PostgreSQL）：用于存储结构化数据，如交易记录、销售数据等。
• NoSQL 数据库（如 MongoDB, Cassandra）：用于存储半结构化或非结构化数据，如客户评论、日志文件等。
• 数据湖（如 Hadoop, Amazon S3）：用于存储大规模的原始数据，支持批量数据处理。

数据采集技术：

• ETL（Extract, Transform, Load）工具：如 Apache Nifi、Talend，用于从不同源（如 CRM、ERP、IoT 设备）中提取数据并进行清洗和转化。
• 实时数据流处理（如 Apache Kafka, Flink）：用于实时数据采集，如用户行为跟踪、实时监控数据。

数据集成与管理：

• 数据集成工具：如 Apache Camel、MuleSoft，支持异构系统之间的数据集成与同步。
• 元数据管理与数据治理：通过工具如 Apache Atlas 或 Collibra 进行数据资产管理和数据质量监控。

2.模型层

模型层是 GBI 系统的核心，负责处理生成式 AI 模型的训练、推理和部署。该层包括用于数据分析、生成报告和自然语言处理的各种模型，技术选型主要围绕生成式 AI 模型和自然语言处理展开：

在AIGC应用探索与生产落地中，难以避免直接与模型服务对接，但是目前大模型的推理部署还没有一个事实标准，不断有新的模型发布，也不断有新的训练方法被提出，我们需要花大量的时间来适配多变的底层模型环境，而这在一定程度上制约了AIGC应用的探索和落地。

关于此层理念参考DB-GPT，DB-GPT提出了基于服务化的多模型管理框架(Service-oriented Multi-Model Management Framework，简写为SMMF)。

SMMF由模型推理层、模型部署层两部分组成。模型推理层对应模型推理框架vLLM、TGI和TensorRT等。模型部署层向下对接推理层，向上提供模型服务能力。 模型部署框架在推理框架之上，提供了多模型实例、多推理框架、多云、自动扩缩容与可观测性等能力。

2.1. 最上层（服务与应用层）

这层表示了 SMMF 上方的各种服务与应用程序，包括：

• DB-GPT Web Server：提供用户接口，允许用户通过 Web 界面与模型交互。
• Agent 系统：用于管理和调度 AI 代理。
• Model Management API：提供模型管理的接口，用于模型的注册、加载、卸载等操作。
• 命令行工具：可通过 CLI 与系统进行交互，通常用于开发者或运维人员进行管理和操作。

2.2. 模型部署框架层

这层是核心框架，负责管理和调度多模型，包括：

• API Server：为应用层提供接口，将用户请求传递给模型进行推理。

• Model Handle：处理模型实例的调用请求，管理模型的推理请求流动。

• Model Controller

  ：这个模块有两部分：

  • Model Registry：记录所有注册的模型信息，包括版本、路径等。
  • Model Manager：负责管理模型的生命周期（如加载、更新、卸载等）。

• Model Worker：负责实际的推理工作，直接对接推理框架。

2.3. 推理框架层

这层包含了实际的推理引擎，负责执行大语言模型的推理任务：

• vLLM、llama.cpp 和 FastChat：这些是推理框架，可以将模型部署在这些环境中，负责接收 API 请求并返回推理结果。
• 大语言模型（LLMs）：这里包括具体的模型实例，如 Vicuna、Llama、Baichuan、ChatGLM。这些模型是负责生成内容的核心部分，它们通过推理框架进行实际计算。

2.4. 底层部署环境

这层展示了实际部署模型和推理框架所依赖的基础设施：

• Kubernetes：用于容器编排，支持大规模的模型部署和扩展。
• Ray：分布式计算框架，允许高效的并行化和任务调度。
• AWS、阿里云 和 私有云：表示不同的云平台，支持不同企业的部署需求。

2.5. 数据流理解

• Model Inference（模型推理）：当用户请求通过 API Server 传入时，Model Handle 将会查找合适的 Model Instances（模型实例），并在 Model Worker 中进行推理。
• Deploy/Reload（部署与重新加载）：Model Manager 负责管理模型的加载、重新部署以及更新，确保在推理过程中使用正确的模型版本。

3.服务层

服务层主要负责将模型层的能力对外暴露，通过 API 为应用层提供查询、数据生成和报告生成等功能。这一层的设计需要考虑可扩展性、高性能和低延迟，负责管理模型的请求、推理、以及与上层应用的交互。它确保了用户通过 API 可以无缝访问和使用底层模型，并处理用户请求的完整生命周期。在设计这个服务层时，需要考虑高并发、低延迟、可扩展性以及容错能力。

3.1. 服务层的总体架构

服务层的主要功能是处理模型推理请求、模型生命周期管理、负载均衡等。其主要组件包括：

1. API Gateway：负责接收用户请求，并路由到适当的模型服务。
2. Model Handle：处理推理请求，选择适合的模型实例，并将推理结果返回给 API Server。
3. Model Registry：管理已注册的模型信息，包括版本、状态、路径等元数据。
4. Model Manager：负责模型的加载、更新、部署和卸载。
5. 负载均衡：在不同模型实例之间分配推理请求，确保均衡的负载分配，提升推理性能。

3.2API Gateway

API Gateway 是服务层的入口，负责管理所有进入的请求，路由到相应的服务，并处理身份验证、权限控制和限流等功能。技术选型包括：

• Kong Gateway：Kong 是一个高度可扩展的 API 网关，可以处理路由、身份认证、限流等功能。它还支持插件扩展来处理特定需求。
• Nginx：Nginx 可以作为轻量级 API 网关，提供负载均衡、缓存和路由功能。
• Amazon API Gateway：如果在 AWS 上运行，这是一个托管的 API Gateway 服务，适合快速部署。

3.3负载均衡和容错

在高并发环境中，多个模型实例需要同时处理大量的推理请求。为了提高系统的可靠性和性能，负载均衡和容错机制至关重要：

• HAProxy：一个可靠的开源负载均衡器，可以在多个 Model Worker 实例之间分配负载。
• Kubernetes Ingress Controller：如果系统运行在 Kubernetes 集群中，使用 Kubernetes Ingress 进行流量路由，并支持负载均衡。
• Envoy：Envoy 是一个现代服务代理，支持强大的负载均衡、动态路由、故障隔离和熔断等功能。

3.4Model Handle

Model Handle 负责管理从 API Gateway 路由到模型推理引擎的请求。技术选型包括：

• FastAPI：一个高性能的 Python Web 框架，支持异步请求和高并发，适合处理推理请求。
• Spring Boot：如果使用 Java 生态，Spring Boot 是处理微服务和 Web 请求的主流框架。
• Flask：对于较轻量的推理请求处理，Flask 也是一个不错的选择，特别适合与 TensorFlow Serving 或 TorchServe 集成。

3.5模型推理服务（Model Worker）

模型推理服务负责具体的推理任务。它与模型推理框架（如 vLLM、llama.cpp、FastChat）相结合，执行模型推理，并将结果返回给 Model Handle。

推理服务的技术框架：

• TensorFlow Serving：TensorFlow Serving 是一个灵活的高性能推理服务框架，支持动态加载模型并进行推理任务，适合大规模模型的生产环境。
• TorchServe：TorchServe 是 PyTorch 生态下的推理服务框架，支持 PyTorch 模型的部署和推理，可以轻松集成到已有的服务架构中。
• ONNX Runtime：ONNX 是一个开源的推理引擎，支持跨平台的深度学习模型推理，适合多种框架的推理（如 TensorFlow、PyTorch 等）。

3.6Model Controller

Model Controller 是管理模型生命周期的核心部分。它包括两个重要子模块：Model Registry 和 Model Manager。

• Model Registry：负责存储所有已注册的模型信息，包括版本、模型路径、配置、状态等。通过 Model Registry 可以管理模型的元数据，确保不同版本的模型可以有序管理。常见的工具包括：
  • MLflow：一个开源平台，用于管理模型的生命周期，支持模型的注册、版本控制和实验跟踪。
  • Weights & Biases (W&B)：用于管理模型训练和版本控制，提供强大的可视化和日志跟踪功能。
• Model Manager：负责管理模型的加载、更新、部署和卸载，确保系统能够动态响应模型的变化。技术实现可以通过 Kubernetes 的 ConfigMap、Deployment 或 Ray 等分布式任务调度系统来动态管理模型的部署。

3.7模型推理框架

服务层必须与底层的推理框架紧密集成，以便完成实际的模型推理任务。常见的推理框架包括：

• FastChat：DB-GPT 使用的推理框架，专注于高效的对话式 AI 推理，支持多种大语言模型的推理任务。
• vLLM：支持高性能的 LLM（大语言模型）推理，通过优化内存管理和并行推理，提升模型推理的效率。
• llama.cpp：用于 LLaMA 等模型的轻量级推理框架，专注于在低资源环境中实现高效推理。

4.应用层

应用层是用户与 GBI 系统交互的界面，提供查询、报告生成和可视化展示等功能。该层需要易于使用、支持自定义查询并能展示实时的业务洞察，技术选型包括：

• 前端框架：
  • React, Vue.js, Angular：用于构建用户交互界面，支持用户查询输入和结果展示。
  • Chart.js, ECharts：用于生成动态的图表和可视化展示商业洞察。
• 交互式查询系统：
  • 自然语言查询：通过集成 NLP 模型，将用户的自然语言查询解析为 SQL 或其他数据查询方式。
  • 自助式 BI 工具：如 Apache Superset、Tableau，支持用户通过拖拽式操作生成定制化的报表和图表。

三、总览

尽管 GBI 的发展势头强劲，但仍然面临一些技术和商业上的挑战，生成式 AI 模型常常被视为“黑箱”，生成的业务洞察和预测可能缺乏解释性，这在高度依赖模型决策的商业环境中可能会引发信任问题。而且确保数据隐私和安全至关重要。特别是在涉及个人隐私或敏感商业信息的领域，如何防止数据泄露和违规是 GBI 落地的关键挑战。GBI 需要与企业现有的 BI 系统和数据基础设施进行集成，如何与传统 BI 系统无缝衔接也是一大挑战。特别是在大型企业中，数据管道和分析流程复杂，GBI 的部署需要考虑系统兼容性和稳定性。

但随着技术的成熟和落地应用的扩大，GBI 在多个行业展现出广泛的应用前景，未来其自动化能力和生成能力将继续推动数据驱动业务决策的变革。

如有纰漏之处，请留言指教，非常感谢

以上就是本期全部内容。我是fanstuck ，有问题大家随时留言讨论 ，我们下期见。