[NIPS2015]Pointer Networks

今年ACL上一篇联合抽取实体和关系的文章提到了pointer networks, 于是先大概了解下什么是pointer networks, 再回头看ACL上的那篇文章
pointer networks文中简称Ptr-Net, 是attention model 的一个变体,首先给出介绍比较详细的attention的文章,稍后讲解Ptr-Net
http://blog.csdn.net/xbinworld/article/details/54607525
这上面链接给出的博文中,很好的解释了attention model的原理以及公式,对我而言,我更喜欢模型的框架和公式,同时作为一个备份,此处也粘贴过来:
这里写图片描述
这里写图片描述
attention是:decode生成y t _t t时,需要计算X 1 _1 1到X T _T T对生成y t _t t的贡献

-----------------------------------下面是Ptr-Net paper分割线--------------------------------------
(1)输入句子的长度就是指针网络输出类别的个数,由于输入句子的长度是不同的,所以类别个数是不同的,随着输入句子的不同类别个数也在变化
(2)指针的目的就是给出输入句子中单词的下标位置
在这里插入图片描述值的注意的是: C i C_i Ci是input sequence的小标值

  • 4
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值