tensorflow之tf.dynamic_rnn()的理解

最近在看基于LSTM的的NER的任务,但是对padding有一些不解的地方

问题描述:

实体标签的数量:7,分别用数字1、2、3、4、5、6、7表示,因为在padding部分的标签补的是0,所以魏从0开始表示,那么padding之后标签的为0、1、2、3、4、5、6、7,变成8个了,一直很困惑第8类标签到底是什么?但在测试的语料中也未找到第8类标签,大胆的猜测是因为padding部分并未加入计算,具体是这个样子吗?

在网络这块用到的是tf.dynamic_rnn()

self.lstm:网络的状态

word_vectors:已经padding过后的输入

sequence_length:传入的是batch中每一个句子的实际长度(这个参数貌似在告诉我之前的猜测是对的)

查了一些资料,在https://blog.csdn.net/u010223750/article/details/71079036这篇博客中对tf.dynamic_rnn()有了比较详细且干货的讲解

虽然对输入的数据按照最长的句子进行了补0操作(padding),但是在真正的计算中会把补0的部分不加入计算行列,这样神经网络就不会学习到所谓的第8类标签

https://www.zhihu.com/question/52200883/answer/153694449  这个上面的Jarvis贾博士的回答也可以看一下

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小杨算法屋

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值