对话generation

本文探讨了对话生成的研究,强调了深入阅读论文的重要性。文章介绍了使用神经混合专家(Mixture-of-Experts)的模块化任务导向对话系统,通过门控网络整合专家意见。此外,文章提到了多任务学习在语言理解和对话状态跟踪中的应用,并对比了不同的评价指标和模型。作者还讨论了如何改进对话系统的连贯性和吸引力,以及如何利用自动对话评估者进行重排名以提高生成响应的质量。文章中提到的Hierarchical Disentangled Self-Attention模型通过层次结构增强了对话的语义条件响应生成。实验部分详细阐述了模型结构、损失函数和评估指标。
摘要由CSDN通过智能技术生成

对于paper不能掉以轻心的态度,还是要好好阅读。
现在的文章各种方法都很多,一定要善于总结。


A Modular Task-oriented Dialogue System Using a Neural Mixture-of-Experts

gating network:

h是所有专家算出来的state和y概率分布的coXncat,经过全连接得到 u l u_l ul β l \beta^l βl是第 l l l个专家占的比重, u b T u_b^{T} ubT感觉有问题不太明白没看代码。总的来说是专家意见的加权。
loss包含了各个专家的训练loss(chair的单独训练loss也包括)、chair和experts训练loss。加权。
对比模型,只有attnS2S。主要分析各成分的贡献。
metrics:
Inform:The fraction of responses that provide a correct/appropriate entity out of all responses.(就是说是否给出实体,而下面要求实体还符合用户需求)
Success

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值