智能客服项目实战

 一、客服行业变迁

1.传统客服时代

（1）客服工作重复性高，技术含量低

（2）呼出效率低，客服水平参差不齐

（3）管理难度高，情绪不稳定

（4）服务质量监控难

2.AI+客服

（1）成本低、服务效率7*24

（2）服务水平高，服务质量可控

二、AI+客服系统的核心运作流程

三、AI+客服具体行业案例

1.苏州意能通+福州移动案例

主要通过语音识别、文本处理两种技术实现，具体实施步骤如下：

（1）沉淀优秀客服话术模版到知识库

（2）超出话术模版外的问题，可以通过文本相似度，引导到相近问题对问题进行回答或者转接到人类客服进行转接

注：做好埋点，便于及时发现问题

2.饿了么

文本客服，对文本进行规范处理后去知识库里检索知识后进行问题回复，若未检索到相关知识，则补充知识库。

3.金融行业智能客服

（1）营销话术生成：收集近万份产品制度、金融政策利用大模型抽取摘要、关键词，并结合存量有效信贷客户画像，产品策略，构建精准营销策略，根据用户画像自动生成营销话术。最终将营销转化率从0.5%提升至2%。

（2）基于客户历史对话记录，进行数据分析，持续运营产品知识，prompt模版知识设计、上下文多轮对话、RAG的搜索优化，将财富、保险类对话的准确率从75%提升至98.5%

（3）手机银行APP语音助手

• 基于用户行为和满意度反馈，利用语音识别、自然语言处理技术，设计理财、贷款、账户查询、权益等模块的语音交互功能，平均缩短客户交易时间约20%，将用户满意度提升了15%。
• 针对用户对话历史记录、及过程中产生的badcase、用户问题反馈维度，利用数据分析，迭代金融场景的对话设计、UI界面设计、Bert算法模型微调

（4）语音分析系统

• 基于坐席团队抽检耗时，客服管理难，非结构数据无法治理的痛点，挖掘潜在需求，结合痛点进行语音分析模块、业务建模、可视化报表分析模块的产品设计
• 根据信用卡分期、贷款问题、账单分期、服务转营销等不同场景及客户分层类别，设计模型管理、模型分类模块，搭建300多个金融业务模型，100%实现质检全自动化

（5）智能外呼平台升级

智能外呼平台产品全流程和功能模块设计，满足营销、催收等爆款产品的需求，整体有效接通率提升到66%，每年创收2500万

（6）智能客服平台升级

• 完善知识库管理、场景对话管理、智能运营产品的原型设计和功能设计
• 统筹团队运营同学，对用户对话历史产生的badcase进行数据分析，实时服务监控与跟踪，定期优化对话流程，协助算法团队优化机器学习及专家领域模型，采用ABtest，迭代优化模型

四、产品方案

智能客服将围绕企业知识库精准问答、企业沉淀的资产数据做精准查询、数据解释、数据诊断等功能。

1.产品业务流

2.产品架构

3.大模型选择

经过多个大模型测评，最终选择中文能力强，逻辑推理能力不逊色的ChatGLM作为智能客服的底座大模型。

模型名称	机构	对比ChatGPT	训练计算资源	中文能力	是否开源	参数规模	技术特点
LLaMa	Meta	相较于有1750亿参数的GPT-3，最对只有650亿参数的LLaMa在大多数基准上都要优于GPT-3	13B的LLaMA在单个GPU上就能运行	弱	是	7B-65B	基于更多数据训练的更小的模型实现
ChatGLM	清华大学	参数量相对小，逻辑推理能力相对差一些，但对话能力与chatgpt差别不大	最小：7GB；标准：8*A100 80G	强	是	6B	1.使用FFN结构优化模型架构和大小2.FP16半京都下13GB显存即可推理3.序列长度可达2048，支持更长对话和应用4.采用人类意图对其训练
文心一言	百度	意图理解能力、代码能力和逻辑推理能力较弱	/	强	否	/	/
通义千问	阿里	复杂理科计算方面较弱	/	强	否	/	/
星火	科大讯飞	中文和数学能力超过ChatGPT	/	强	否	/	中文、教育领域表现卓越

五、产品推进难点

大模型存在模型幻觉，问答时效性问题，因此智能客服产品的成功性取决于以下三个维度：

1.提问问题的准确度，反映提问是否能够真实反映提问者的意图

2.回答的相关性，反映答案与提问是否具有相关性

3.回答的准确率，体现答案和问题是否反映事实

为解决上述问题，我们通过在RAG上做了诸多策略进行打磨优化。

图 RAG主流程

图 RAG（离线）

图 智能问答实时流程