Question Condensing Networks for Answer Selection in Community Question Answering读书笔记

发表于ACL2018

解决的问题:

    Community question answering(CQA)中没有区分问题标题和描述内容,没有区分答案和问题中的噪音信息

 

采用的方法:

    首先对所有单词采用Glove(fine-tune)+Char-level CNN得到词向量。

    然后对于问题标题和内容的词向量,两两计算“相似度”,计算方法如下:

        1.根据问题标题的向量,对内容向量做正交分解。这是为了对于问题相似与不同部分分别建模,分别表示重复信息和补充信息(或者噪音?)

        2.分解后的向量分别通过全连接网络得到attention向量,再归一化得到权重向量,加权求和。注意这里使用multi-dimentional attention,即每个向量的权重是个等长的向量,用element-wise乘积。

        3.用门机制合并各部分的信息

    对于答案,用门机制+非线性变换投影到问题表征空间,用交叉注意力和问题互相表征,最后拼接输出预测

 

notes:

    web 语言不规范,用glove(fine-tune)和char-level CNN更合适

    正交分解,建模相似和不同信息

    multi-dimentional attention

    

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值