Chatbot-检索式模型介绍(二)

本文详细介绍了检索式对话模型中的几个关键模型,包括ARC-I、ARC-II、CDNN、BLSTM和CNTN模型。这些模型利用CNN、LSTM等深度学习架构进行文本匹配,提取特征并计算对话匹配程度。ARC-I和ARC-II是基于CNN的网络结构,CDNN改进了Siamese网络,BLSTM结合了双向LSTM和GBDT,CNTN则采用了NTN结构。
摘要由CSDN通过智能技术生成

检索式模型介绍(二)

  • 这个系列的文章主要是介绍一些可以作为文本匹配工作的一些模型,有些是比较基础的算法,例如bm25。有些模型是基于深度学习的架构,比如说deepMatch模型。个人认为文本匹配的任务有两种实现方式,一个是学习不同domain中text的representation,然后利用representation计算score,这个的score可以是相似度(cosine,欧式距离等)。当然一般的处理是直接用dot pruduct。 第二种方式是利用sentence中不同词的特征直接计算相似度。这类的方法如deepMatch等。
  • 当然,大部分的算法模型,都是从相关的论文里面总结,由于个人水品有限,还是会有一些疏漏,请多多指正。

六 ARC-I模型[1]

6.1 简介

  • 模型主要是来自华为发的一篇paper,论文里面提出了两个模型分别为ARC-I和ARC-II。这里主要介绍一下ARC-I模型。首先,ARC-I模型是基于CNN的网络结构。主要的思路是针对q和r分别利用cnn提取特征,学习到对应的向量表示。然后在这两个向量表示基础上,加上一层MLP,最后得到相应的匹配程度得分。算法具体结构图如下所示:
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一夜了

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值