浅谈大模型生成类应用的需求分析设计与实践

最新推荐文章于 2024-11-04 10:37:54 发布

鲸品堂

最新推荐文章于 2024-11-04 10:37:54 发布

阅读量1.2k

点赞数 22

文章标签：需求分析数据挖掘人工智能

本文链接：https://blog.csdn.net/whalecloud/article/details/141672675

版权

在人工智能技术飞速发展的今天，基于大模型的生成类应用已经成为业界关注的焦点。这些应用不仅可以帮助企业提高生产效率，还能为用户提供更加个性化、智能化的服务体验。本文将探讨生成类应用的机遇与挑战，以及在实际落地过程中的探索和实践经验。

生成类应用在通信行业的价值与机会

生成类大模型让通信运营商在多个方面受益，主要体现在运营、成本、质量及创新能力上。

01 提升运营效率

生成类应用可以帮助通信企业自动化处理大量的日常工作，例如客户服务对话、故障诊断和修复指南生成等，从而显著提高运营效率。

02 降低成本

自动化处理重复性任务可以大幅降低人力资源成本，同时通过优化网络资源配置和运维管理，有效减少各类成本。

03 改善服务质量

通过自动生成高质量的文档、技术指南、用户手册等，可以减少人工错误，确保信息的一致性和准确性，从而提升客户满意度。

04 增强创新能力

利用生成式AI技术，通信企业可以开发出更多创新的产品和服务，比如基于AI的虚拟助手、智能客服系统等，为用户提供更加个性化和智能化的体验。

在众多生成类的场景中，通信运营商的售前方案的支撑的需求量最大，一线诉求最强，主要存在以下困难点：

售前方案主要由一线解决方案经理依靠人工拼装，生成效率低，易出错。
一线方案经理经验不一，方案质量参差不齐，影响品牌声望。
客户变更需求多，方案频繁修改，售前方案生成周期长，客户满意度降低。

通过运用生成式大模型的技术，高效高质量生成售前方案，重构生产运营前后端，已成为运营商数智赋能生产过程的突破口。

生成类应用的探索和落地

面对众多的售前方案场景，如何聚焦业务量大、有特色的业务，如何喂投专业业务知识，如何标准化知识文档结构，如何与业务系统无缝对接等诸多难点，我们采用“逐层拆解，逐个击破”的策略，对生成类的应用场景需求分析设计过程抽丝剥茧，聚焦核心业务、方案论证、原型交互设计，知识标准化梳理，最终形成生成类大模型应用产品的形态。

场景聚焦：以点为面，聚焦小微组网方案生成

售前方案涉及行业众多如金融、卫健、农业、教育等，业务跨度广，全部梳理则落地周期长，效果不显著。聚焦一线最急迫，业务最典型，访问量最大的小微企业的组网和视频监控的售前方案生成场景，以此为切入点打造领域方案撰写的样板点，以点带面，为后续多行业售前方案智能生成奠定基础。

【一线关键问题聚焦】

1.小微客户个性需求多，往往需要针对性编写方案，周期长

2.组网监控业务复杂，需要较多专业知识和经验

3.已有方案难复用，需人工对已有的方案库进行检索

方案论证：谋定而后动，制定整体设计方案

聚焦场景后，梳理小微组网方案生成的用户故事，确定解决方案经理的操作流程，完成业务规则训练、设备清单库对接、高中低报价、方案生成、对接云链的业务流程设计。

根据业务流程，确定整体方案的智能化目标，同时制定小微组网方案生成的技术方案。事前构建高质量的数据集，事中重点设计智能高效的交互体验，事后形成闭环的知识评估及更新方案。

知识梳理：构建高质量数据集，定义文档标准化格式

通过文档识别、文档处理、索引构建、知识检索这四大步骤构建高质量数据集，形成售前方案高质量生成的技术保障。

word/excel/pdf等格式的文档是业务知识常用载体，将操作手册、产品白皮书、设备安装手册介绍等常见文档作为知识的输入，有利于业务知识的快速收集和成生。通过文档格式处理技术，高效识别文档关键元素，保持文档的层次结构；通过文档多模型内容处理技术保持文档文本、图片、表格等多模型信息的还原度。应用语义索引和实体索引两种策略，构建高效的索引方案。通过语义检索、关键字检索、实体检索等组合的知识检索方案，形成知识库整体建设的完整方案。

依托业务知识的规则化和章节内容的标准化，形成高质量的小微组网知识数据集，并依据知识集及典型方案定义生成文档的标准化格式。

业务知识规则化

通过一线调研结合典型售前方案，确定小微组网知识分为网络类和安全安防类两大类，每一类又有细分场景，每个细分场景有对应的商品，每个商品有详细的业务规则。如下图所示：

小微组网的业务知识的梳理，即将这些商品在细分场景下对应的规则进行细化，形成知识场景化的知识规则体系，纳入知识库统一管理。

章节内容标准化

一线解决方案人员在编写小微组网方案时内容和格式都不大一样，无法保证高质量，需对方案内容的章节进行统一定义。

首先，分析典型方案内容，抽取共性章节，最终确认标准方案章节定义为：需求描述、方案描述、方案报价。

其次，报价部分格式千样，存在较多隐患。最终根据一线的报价需求并参考报价系统，形成标准报价方案包括：标品套餐、集成服务清单、项目总计的内容。

交互设计：智能高效的交互体验，提升一线感知

良好的交互体验影响售案生成质量和一线感知。应用业务参数固化、会话管理、提词工程、RAG检索增强生成四种交互技术使该场景交互质量与交互感知达到最佳平衡。

01 业务参数固化

标准化模板：通过预先设定的参数模板，确保售前方案的标准化，提高方案的一致性和质量。
快速变更：固化参数允许快速变更配置方案的基本框架，加快方案生成的速度。
减少交互次数：标准参数无需来回对话，提升需求收集的速度。

02 会话管理

会话管理是为了有效且准确的将对话之前所蕴含的信息提取出来而引入的模块，将智能分割用户会话内容管理过往对话所蕴含的场景信息、意图信息传入大模型底座，从而生成连贯和个性化的回复。同时引入个人用户token，在每个对话之间传递会话令牌，能够将不同用户的输入与之前的对话上下文关联起来,产生与特定用户和对话相关的回应。