递归神经网络(RNN)

一、递归神经网络与传统神经网络的差异:

        主要是引入了先后、时序等影响前后关系的因子

二、网络结构:

        其中h0···ht为中间各个过程的结果,而h0作用于h1,h1作用于h2······其由此循环,产生一反馈效果

        一般结果就是ht

三、改进:

        LSTM网络:由于RNN最终结果和前面所有结果都有关系,因此可能会有误差,因此选择性消除某些因子,即某些hn

        网络结构对比:

        具体结构如下

        控制参数:在整个过程中需要不断维护

        门单元:与传统神经网络一致

        决定丢弃信息组件:

        确定更新的信息组件:

  • 0
    点赞
  • 16
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值