lstm网络一般训练多少轮_负荷预测怎么做,循环神经网络来支招

之前连载的负荷预测,都是使用传统机器学习的方法,这一期我们将使用工业领域中大放异彩的循环神经网络:长短期记忆网络(LSTM)。LSTM是一种时间递归神经网络,适用于处理和预测时间序列,基于LSTM的系统可以进行机器翻译,语音识别,文本识别,诗歌合成,自动驾驶等任务。电量的负荷值也是一个时间序列,使用LSTM的预测效果如何?今天小编带大家来看一下。LSTM模型介绍相对RNN,LSTM的结构更复杂。如...
摘要由CSDN通过智能技术生成

之前连载的负荷预测,都是使用传统机器学习的方法,这一期我们将使用工业领域中大放异彩的循环神经网络:长短期记忆网络(LSTM)。

LSTM是一种时间递归神经网络,适用于处理和预测时间序列,基于LSTM的系统可以进行机器翻译,语音识别,文本识别,诗歌合成,自动驾驶等任务。电量的负荷值也是一个时间序列,使用LSTM的预测效果如何?今天小编带大家来看一下。

LSTM模型介绍

相对RNN,LSTM的结构更复杂。如图一所示:LSTM由三个门组成:遗忘门,输入门和输出门。遗忘门决定有多少信息被忘记,输入门决定保留哪些信息,输出门输出结果。LSTM就是在RNN的基础上,增加了对过去状态的过滤,从而可以选择哪些状态对当前更有影响,而不是简单的选择最近的状态。

在训练的过程中,RNN的训练特别困难,因为RNN梯度被表示为连成积的形式,导致梯度消失。而LSTM则很好的解决了这个问题:如图二公式展示的那样,最终的细胞状态是由遗忘门和输入门的计算结果求和得到的,这样的梯度表示为累加的形式,避免了梯度消失。

c36d6a1da12bffdff000a8310386ff6a.png

图一: RNN和LSTM结构图

ffbd68057dd0856182a0a60cb0927791.png

图二: 细胞状态更新

除了上图展示的LSTM以外,还出现了一些LSTM的变体。

如图三所示:单向LSTM和反向的LSTM结合成双向BiLSTM(双向LSTM)。单向LSTM关注的是过去对未来的影响,而反向LSTM关注的是未来对过去的影响,两个方向的网络结合到一起就能关联历史与未来。

  • 1
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值