LSTM水质预测模型实践

细节处有神明

已于 2024-07-10 17:58:28 修改

阅读量1k

点赞数 30

分类专栏：水质预测 python 文章标签： lstm 人工智能 rnn python 经验分享

于 2024-07-03 19:28:58 首次发布

本文链接：https://blog.csdn.net/weixin_42984235/article/details/140160317

版权

0 引言

随着水质自动站的普及，监测频次越来越高，自动监测越来越准确。
水质站点增多，连续的水质监测数据，给水质预测提供更多的训练基础。
长短时记忆网络(LSTM)适用于多变量、连续、自相关的数据预测。
人工神经网络模型特点为的非线性映射，是广泛应用的水质预测方法。

1.长短时记忆网络(LSTM)介绍

1.1起源

1997年，Hochreiter等提出了长短时记忆网络(LSTM)，作为深度学习的一种，LSTM既考虑了多元变量间的非线性映射关系，又可以解决传统人工神经网络不能解决的时间序列长期依赖问题，应用场景包括：金融交易、交通预测、机器翻译、水质预测等。

1.2原理

长短时记忆网络(LSTM)是在循环神经网络(ＲNN）的基础上改进而来。
循环神经网络(ＲNN)作为深度学习方法的一种，其主要用途是对序列数据处理。ＲNN具有自连接隐层，其t时刻隐层状态依靠t－1时刻隐层状态进行更新，因此能够解决时间序列长期依赖的问题。ＲNN理论上可以进行非线性时间序列的有效处理，但实际对较长时间序列进行建模应用中，存在梯度消失及梯度爆炸的问题。
LSTM是ＲNN的一种变体，与ＲNN一样，LSTM隐藏层具有随时间序列的重复节点。LSTM节点相较ＲNN更为复杂，它将ＲNN中隐含层中的神经元替换为记忆体，以此实现序列信息的保留与长期记忆。
一个标准的LSTM记忆体见图1。
图1 LSTM 记忆体示意图
图 1 中，C 为 LSTM 记忆体的细胞状态，h 为节点的隐藏层状态。每个记忆体包含一到多个记忆细胞和 3 种“门”，LSTM 通过记忆细胞进行细胞状态信息存储，门结构负责细胞状态的更新与保持，3 种 “门”包括“遗忘门”“输入门”和“输出门”。“遗忘门”控制历史信息对当前细胞状态的影响。 $f_t$ 决定了上一时刻细胞状态 $C_{t -1}$ 的通过程度。
$f_t=σ(w_f[h_{t-1},x_i]+bi)\tag{01}$
$C_{t -1}$ 为t － 1 时刻细胞状态；ht － 1为t － 1 时刻隐藏层状态; σ 为sigmoid 激活函数; wf 为输入循环权重; Xt 为当前时刻节点的输入值；bf 为偏置项。“输入门”决定了进入记忆细胞的是哪些信息，“遗忘门”与“输入门”结合可以实现细胞状态Ct 的更新。
$i_t=σ(w_i[h_{t-1},x_i]+b_i)\tag{02}$
$C_t^‘=Tanh(w_C[h_{t-1},x_i]+b_C)\tag{03}$