大模型在智能客服领域的应用思考

前言

随着大模型技术的飞速发展，其在商业化应用的落地实践上仍面临着挑战，不论是面向C端用户的付费服务模式，还是面向B端企业的业务赋能策略，目前都尚未形成成熟且清晰的商业模式。

在我所专注的智能客服领域，作为人工智能落地应用的前沿阵地，我深刻感受到大模型的生成能力、泛化能力以及增强检索等核心技术的巨大潜力。基于此，我构想了一系列应用方向，并期望通过分享结合大模型工具的实验经验，与大家共同探讨这些可能性。

一、呼入场景

客户服务领域，无论是在线聊天还是语音交流，都已成为了现代业务运作中不可或缺的一部分。目前，基于NLP（自然语言处理）、ASR（自动语音识别）和大数据等先进技术，已经涌现出了一系列智能化的客户服务应用。

然而，这些产品在功能边界和特色上往往差异不大，难以在激烈的市场竞争中脱颖而出。大模型的加持，从运营成本和用户体验上考虑，也许可以为这一领域带来了新的发展机遇。

1. 问答机器人

在呼入场景中，问答机器人（包括在线客服机器人和语音导航机器人）的广泛应用凸显了ASR转译准确率和NLP自然语言处理语义理解能力的重要性。在实际业务运营中，为了提升问答机器人的识别准确率，往往需要维护一个尽可能大的相似问题库。

然而，这种维护方式不仅耗时耗力，而且需要大量的运营成本。考虑到大模型的泛化生成能力，我们可以设想一种创新的方法：通过输入特定的prompt（指令），让大模型生成更多的相似问题，经过业务审核后入库。这种方法有望显著降低运营成本，同时提升问答机器人的识别准确率。为了验证这一想法，使用了文言一心、Kimi助手等大模型工具进行了实验，如下：

2. 话务小结抽取

席在接听完一通会话后进行话务小结是一个重要的环节，用于记录通话的核心内容、问题以及解决方案等信息。传统上，这个过程需要坐席在通话结束后手动输入，既耗时又可能因人为因素导致信息遗漏或偏差。

大模型的主题抽取能力可以用于自动生成小结，坐席只需审核确认后录入，这有助于缩短通话时长，提高效率。验证如下：

3. 多轮对话的处理

多轮对话在问答机器人技术中向来是颇具挑战性的环节，目前主要局限于特定的简单场景，由运营人员在流程画布上进行详细设定，涉及多个交互节点和路径。

为了更灵活、精准地响应客户的问题，我们可以借助大模型的生成能力和增强的检索功能。这种方法在阿里的相关文章中得到了具体体现（参考：https://mp.weixin.qq.com/s/0THyHxpuIo9MI8MY9tLHiA），即通过大模型生成提示性的快捷短语，引导用户更明确地表达需求，同时结合增强的检索技术，缩小答案的搜索范围，从而生成更为可靠和准确的回答。

二、呼出场景

在当前的AI外呼场景中，虽然普遍采用基于预设流程的问答模式，结合ASR（自动语音识别）和NLP（自然语言处理）技术来执行外呼任务，但这种方式在个性化服务和转化率提升上存在一定局限性。借助大模型的生成能力，我们可以实现更为智能化的外呼策略。

具体来说，通过大模型分析不同用户的属性标签，如年龄、性别、兴趣偏好、消费习惯等，AI外呼系统可以为用户定制差异化的呼叫内容和方式，真正做到“千人千面”。验证如下：