57 长短期记忆网络(LSTM)【动手学深度学习v2】

57 长短期记忆网络(LSTM)【动手学深度学习v2】

深度学习学习笔记
学习视频:https://www.bilibili.com/video/BV1JU4y1H7PC/?spm_id_from=autoNext&vd_source=75dce036dc8244310435eaf03de4e330

长短期记忆网络(LSTM)
LSTM 实际中比较常用的网络,LSTM比GRU复杂一些。
忘记门、输入门、输出门,效果上也是是不是要忘记过去的状态尽量去看现在的输入数据;还是说不看现在的状态尽量去用前一个时刻的状态。
在这里插入图片描述
三个门,计算差不多,XW + Ht-1W + b。
在这里插入图片描述

候选记忆单元
C : 之前算RNN里面那个H相似。
在这里插入图片描述
记忆单元
上一个时刻的记忆单元会当做状态传进来,F 尽量不去记住前一个状态 Ct-1,I 尽量去用Ct。
在这里插入图片描述
隐藏状态
对候选记忆单元Ct再做一个tanh。
记忆单元处的计算公式,可能将Ct变化为(-2,2),Ht需要在(-1,1)所以需要再做一次tanh,Ot是控制要不要输出(1 输出 ,0 重置不要所有的信息)。
在这里插入图片描述

总结:LSTM 和GRU实现效果差不多,但是更加复杂,多了一个C(没有被normalize,所以区间可能会大,忘掉前面的Ct-1,只用当前的Ct),Ht一样可要之前又可不要之前。
在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值