草台班子快速落地一个营销领域的大模型应用

一、需求背景

23年是大数据快速发展的一年，语言类的大模型给我带来震撼的同时，我们又在思考，大模型能给我们业务带来什么，如何构建一个符合我们自己专业的大模型，从而支撑营销系统赋能一线客户经理高效工作是我们的重大目标。 同时作为项目经理，在资源、成本的限制内，对大模型进行大规模的调优且效果未知的情况，是一个充满争议的决策。

在层层环境的限制下，快速且低成本的构建一个业务试错系统是一个不错的选择，下面就介绍下，草台班子的项目组决定通过2个人，在3天内快速的实现一个对话式的营销领域的大模型的过程。

二、业务流程

在正常开展业务推荐的场景中，营业员会首先通过客户在进行业务咨询来了解客户需求，然后根据客户需求对比公司套餐进行相应的业务推荐，最终实现业务办理。

三、技术流程

3.1、营销机器人工作流程

1、前台页面输入对话文本，并调用百度的embedding接口将数据转换成向量

2、将【对话的向量】参数传入到向量库中，和标准话术的向量进行比较，比较方法通过【余弦相似度算法】进行比较

3、对标准话术查询结果【相似度大于0.8】进行排序，找出最相似的话术，并通过最相似的话术查询出来的ID到标准的营销事件表中进行查询，找到对应的事件和行为

4、触发相应的行为，完成业务逻辑、并将查询的接口调用大模型接口，进行语言组织返回

5、如果【相似度小于0.8】则直接调用大模型接口，进行语言返回。

1、客户端页面【网格通】：提供语音的识别、文本输入等相关能力

2、营销机器人应用：提供接收话术、向量比较阈值控制、调用对应能力等功能

3、文本向量库：提供标准向量库的管理和向量比较的功能

4、事件库：提供标准话术和对应的能力、流程、回复等相关事件的关系维护

5、AI能力/大模型：提供文本转向量、问答、话术组织

6、营销能力库：提供指标查询、营销推荐、任务处理等相应的营销能力

3.2、文本向量库建设

通过线下整理的语料文件和搜索的记录数据，将标准话术转为embedding向量，并将向量数据存储在标准向量库。

注：转换向量的接口为外网接口，需要开通对应的防火墙

3.3、营销事件库建设

1、事件关系表：配置了事件和标准话术编号之间的关系

2、事件配置表：对操作事件进行管理，包括事件触发的动作和相应调用的能力

3、能力库：营销的能力信息，以服务为维度构建