[NLG] A Context-aware Natural Language Generator for Dialogue Systems

总述:

16年的文章,感觉方法在现在看来已经很easy了,可见NLP领域的发展之迅速。

文章主要讨论了如何将context 引入到当前生成的句子中,baseline和seq2seq attention做对比,作者采用了两种方式,一种将context直接简单的接到DA的前面,DA(dialog action就是一些键值对)。第二种就是将context单独encoder成一个向量,然后和DAencoder出来的向量结合一下。

 

模型:

 绿色的表示第一种融合方式,蓝色的表示第二种融合方式。

reranker:这篇工作让我觉得有意思的地方

他在生成K个最好的候选项之后,对这K个候选项进行rerank,在之前他们的分数上加上了一个分数L,其中这个L用来衡量候选项和context BLEU1和BLEU2的分数的算数平均值,也就是说如果候选项和context的共现词越多,他的分数会越高,这样间接的实现了copy机制。感觉很棒:p1 p2分别是bleu1 2的分数,W是权值,l是原来的评分。

一句话总结:

结合context内容,与ouput reranker做dialogue 的生成。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值