大模型在证券公司智能客服领域的应用初探

在证券行业，智能客服已成为提升客户体验、提高服务效率以及扩大市场覆盖面的重要手段。智能客服不仅需要具备快速响应的能力，其应答还应能覆盖广泛的业务领域，且需具有较高的准确率。近年来，AI技术飞速发展，尤其是大规模预训练模型(以下简称“大模型”)的出现，为智能客服的优化和升级提供了新的可能性。如何在实际应用中有效利用大模型的强大能力，以提升智能客服的运营质量和效率，是业界关注的热点问题。

为了应对传统智能客服面临的上述挑战，本文提出一种创新的“大模型+小模型”的融合应用模式。证券公司的实践表明，该混合模式能够有效提升知识训练师的运营工作效率，并可显著扩大智能客服的业务覆盖范围，提高智能客服的应答质量。

一、传统智能客服的

内容运营模式

在传统的智能客服运营过程中，证券公司普遍采用基于小模型的算法模式，并采用自然语言处理(NLP)算法模型，如BERT等，通过较小的训练样本集来实现基础的智能应答功能。在这种小模型模式下，知识训练师是一个关键角色，他们需要不断地进行内容创作、知识验证以及相似问题的扩展，以提高特定业务范围内的智能应答准确率。

传统智能客服内容运营包括以下流程(如图1所示)：一是从证券监管机构、行业自律组织以及证券公司自身的业务规则中提取常见问题解答(Frequently Asked Questions，FAQ)，并对其中的专业词汇进行系统整理，确保智能客服的知识库符合行业标准和术语规范；二是为了确保智能客服应答的高准确率，内容审核环节采用多人协作方式，涵盖内容的导入和复核，以确保知识库中的信息准确无误；三是基于标准FAQ的意图，生成语义相同但表达方式不同的多种提问方式，以匹配用户多样化的表达习惯；四是将上述生成的语料内容纳入知识库，并通过人工智能训练，使智能客服能够理解和回应相应的语义；五是鉴于业务和文本内容的相似性，对存在歧义的语料进行二次判断，以确定其归属到特定的FAQ类别。

图1 传统智能客服内容运营流程

在小模型模式下，知识训练师面临的内容运营任务尤为繁重，他们不仅需要具备丰富的证券业务知识和高超的文字编辑技巧，还需要从复杂的政策法规和业务规则中挖掘出高价值的FAQ。此外，知识训练师还需自行创作或从用户互动中提炼每个FAQ的相似问题，并持续对现有内容进行歧义优化。考虑到证券行业业务规则更新迅速、时效性强的特点，知识训练师还需不断关注和调整FAQ内容以适应新的业务规范。智能客服的服务质量在很大程度上取决于知识库中业务知识范围的广度、语料库中语料的丰富程度以及运营更新速度，而这些关键指标的质量主要由知识训练师的专业水平所决定。

二、“大模型+小模型”的

智能客服内容运营方法研究

大模型技术的广泛应用为上述疑难问题提供了有效的解决途径。然而，大模型作为一种生成式人工智能算法，其生成的内容具有不确定性，难以保证与真实业务知识结果一致，从而无法确保答案的唯一性。由于证券行业对知识应答的准确性要求严格，单纯依赖大模型可能导致智能客服的错答或漏答，进而引发实质性的业务风险。智能客服的小模型应用实质是一种分类算法，通过预先列举标准FAQ，确保业务知识答案的准确性，并根据用户的咨询内容智能匹配对应的FAQ。小模型的智能应答模式通常表现为要么答对，要么答非所问，从而可以减少答错或漏答的情况。鉴于大模型技术尚处于快速发展阶段，可将其作为传统智能客服的补充方案而非替代方案，融合使用大模型和小模型是目前较为可行的应用模式。这种融合策略可以充分利用和发挥大模型的生成能力和小模型的分类优势，以提高智能客服的整体性能和可靠性。

基于以上分析，大模型可以在以下内容运营核心工作中帮助知识训练师提高运营效率。

1.业务FAQ生成

大模型具备强大的文本理解和FAQ提炼能力。通过上传相关文档，大模型能够智能抽取文档的全量内容，形成FAQ(如图2所示)，这种端到端的智能处理方式能够显著减少知识训练师在知识创造和总结方面的脑力劳动工作量，在短时间内大幅拓展FAQ的业务覆盖范围。需要注意的是，实际抽取的FAQ可能存在内容不完整或擅自添加内容等问题，因此仍需知识训练师进行细致的审核、筛选与提炼。

图2 FAQ智能抽取示意

2.场景话术变更

智能客服的应用场景包括公司内部员工服务、对外客户语音服务和对外客户文本服务。在不同的应用场景中，智能客服对同一类问题的回答话术会有所差异。大模型的Prompt工程能够自动生成适应不同应用场景的话术，从而减轻知识训练师的工作负担(如图3所示)。

图3 利用大模型生成不同应用场景的答案话术示意

3.知识歧义优化

随着FAQ内容的增加，内容歧义等问题在所难免。大模型可以针对FAQ进行智能分类，自动标识出重复或相似的FAQ，帮助知识训练师迅速识别内容差异并予以修改。同时，在保持FAQ与文档版本绑定关系的前提下，一旦文档内容更新，大模型可以检查相应的FAQ是否需要同步更新，从而协助知识训练师快速定位并更新FAQ，以降低业务错答的风险。

4.扩展问生成

在当前应用功能完备的小模型智能知识库产品的基础上，证券公司可以利用大模型为每个FAQ生成多个相似问题(如图4所示)，从而进一步减少知识训练师的知识训练工作量。

图4 扩展问生成示意

大模型在完成FAQ抽取和扩展问生成后，会按照传统智能客服的FAQ模板将所有内容导入原系统中，并通过小模型进行训练，最终按照原有模式对外提供服务。

除上述应用之外，大模型也可在以下特定场景中进行应用：一是存量FAQ查重，对已有的FAQ库进行高效的同质性检测，识别出重复或相似的问题和答案，减少信息冗余；二是文档错别字检查，大模型可自动识别文档中的错别字或语法错误，确保信息的准确传达；三是FAQ与文档版本匹配检验，检验FAQ内容与相关文档版本的同步性，避免因文档更新而导致FAQ过时。

这种“大模型+小模型”的融合运营方式，相较于纯粹的小模型运营方式，在FAQ生成量和知识训练师的运营工作效率方面有显著提升；相较于纯粹大模型运营方式，能够保证智能应答服务的准确率，降低错答和漏答的业务风险。

三、大模型FAQ抽取准确率的

人工验证

本文采用随机抽样法验证大模型的FAQ抽取准确性。首先从互联网随机下载多篇证券行业相关的制度文档，利用大模型抽取得到FAQ；然后从答案是否为原文、答案是否完整、问题与答案是否匹配以及FAQ是否覆盖全文档四个维度对大模型FAQ抽取的正确率进行评估；最后采取定量定性相结合的验证方式，由多个业务专家针对同一文档抽取内容独立进行评分，按照1～5分分值打分，完全符合标准的计5分，完全不符合标准的计1分，再将评分结果进行统计平均，得到各维度评分结果。

本文以随机抽取的文档A和文档B两篇制度文档为例，展示大模型FAQ抽取评分过程。在验证过程中，大模型针对同一文档的FAQ抽取存在一定差异，但总体数量变化较小。文档A共38页，平均抽取141条FAQ；文档B共10页，平均抽取33条FAQ。依据上述验证方法，两篇文档的大模型FAQ抽取平均得分情况见表1。

表1 大模型FAQ抽取平均得分情况

大模型抽取FAQ评分分布情况见表2，获5分评价的FAQ占大部分，也有少数1分的FAQ出现。

表2 大模型抽取FAQ评分分布情况

除上述案例外，本文实际随机挑选了多篇业务及制度文档进行定性定量评价，结果表明大模型抽取FAQ能力表现良好，可覆盖全文档范围，FAQ内容基本可遵循原文，在答案完整性以及问答匹配性上也基本能满足知识训练师的日常运营要求。大模型综合评分结果见表3。

表3 大模型综合评分结果

综上所述，大模型在FAQ抽取能力方面，在多数场景下表现卓越，能够协助知识训练师快速进行业务知识内容生成与维护。但需要注意的是，大模型在未经精细调优的情况下，不可避免地会出现抽取不完全等问题，具体表现为：一是FAQ答案可能存在遗漏，例如，针对某一业务规则的FAQ，若模型抽取时未能涵盖所有相关条目，可能会导致信息不全的问题；二是FAQ答案可能存在误总结或用词不当的情况，甚至由于遗漏关键词而造成信息丢失；三是部分FAQ问题与答案之间可能存在不匹配现象，出现答非所问的情况；四是大模型尚无法智能评判FAQ的质量与业务价值，可能导致一些“前言”或“附则”中的总结性内容被错误地生成FAQ，这需要人工干预予以剔除。

因此，尽管大模型在抽取FAQ方面能够显著提升知识训练师的运营效率，但由于生成式人工智能大模型的算法本质，即便使用训练参数更多、算法能力更强的大模型，上述业务痛点在短期内亦难以得到彻底解决。鉴于此，本文认为，内容运营工作目前尚无法完全交由大模型承担，知识训练师可以利用大模型的输出结果，进一步进行FAQ的筛选、内容的审核与再编辑等操作，以实现更高质量的知识管理。

随着大模型技术的持续发展，其模型的准确率有望进一步提高。在证券公司智能客服的应用场景中，可以审慎地采用大模型技术。一方面，利用大模型的能力可以有效提升对外服务的效率，加快响应速度，提高客户满意度；另一方面，也应警惕大模型可能出现的错答和乱答风险，采取相应的措施进行规避或纠正。因此本文建议将大模型作为辅助工具，通过“大模型+小模型”的融合运营方式为知识训练师进行AI赋能，这样不仅能够提高智能客服的服务质量和效率，还能够帮助企业降低运营成本，增强竞争力。

此外，在考虑大模型应用的成本效益时，用户通常倾向于使用云服务而非进行私有化部署。在此背景下，应用大模型时需要特别注意保护企业的隐私和商业秘密。建议用户尽量使用脱敏数据或互联网上的公共文档，以防止商业秘密的泄露，同时建立健全的保密制度和管理机制，以确保数据的安全性。

​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

二、AI大模型视频教程

三、AI大模型各大学习书籍

四、AI大模型各大场景实战案例

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。