【LSTM时序预测】北方苍鹰算法优化长短时记忆NGO-LSTM时序时间序列数据预测（含前后对比）【含Matlab源码 3096期】

⛄一、运行结果

✅博主简介：热爱科研的Matlab仿真开发者，修心和技术同步精进，Matlab项目合作可私信。
🍎个人主页：海神之光
🏆代码获取方式：
海神之光Matlab王者学习之路—代码获取方式
⛳️座右铭：行百里者，半于九十。

更多Matlab仿真内容点击👇
Matlab图像处理（进阶版）
路径规划（Matlab）
神经网络预测与分类（Matlab）
优化求解（Matlab）
语音处理（Matlab）
信号处理（Matlab）
车间调度（Matlab）

⛄二、北方苍鹰算法优化长短时记忆NGO-LSTM时序时间序列数据预测简介

1、北方苍鹰优化算法
受北方苍鹰捕食行为的启发，文献[1]提出了一种新的基于种群的优化算法——北方苍鹰优化(Northern goshawk optimization, NGO)算法。

（1）初始化阶段
在算法开始时，种群成员在搜索空间中随机初始化，如式(1)所示：

其中，X XX表示北方苍鹰种群的矩阵，X i X_iX i是第i ii个个体的初始解，x i , j x_{i,j}x ​ 是第i ii个个体第j jj维的值，N NN是种群成员的数量，m mm是问题空间的维度。
北方苍鹰种群的目标函数值可以用目标函数值向量表示。
（2）第一阶段：猎物识别(探索)
苍鹰在狩猎的第一阶段，随机选择一个猎物，然后迅速攻击它。由于搜索空间中猎物的随机选择，该阶段增加了NGO的探索能力。该阶段导致搜索空间的全局搜索，目的是识别最优区域。
（3）第二阶段：追逐和逃跑行为(开发)
在苍鹰攻击猎物后，猎物试图逃跑。因此，在尾随和追逐过程中，苍鹰继续追逐猎物。由于苍鹰的高速飞行，它们几乎可以在任何情况下追逐猎物并最终狩猎。对这种行为的模拟提高了算法对搜索空间局部搜索的利用能力。在提出的NGO算法中，假设该狩猎接近半径为R RR的攻击位置。

2 LSTM简介
2.1 LSTM控制流程
LSTM的控制流程：是在前向传播的过程中处理流经细胞的数据，不同之处在于 LSTM 中细胞的结构和运算有所变化。

这一系列运算操作使得 LSTM具有能选择保存信息或遗忘信息的功能。咋一看这些运算操作时可能有点复杂，但没关系下面将带你一步步了解这些运算操作。

2.2 核心概念
LSTM 的核心概念在于细胞状态以及“门”结构。细胞状态相当于信息传输的路径，让信息能在序列连中传递下去。你可以将其看作网络的“记忆”。理论上讲，细胞状态能够将序列处理过程中的相关信息一直传递下去。
因此，即使是较早时间步长的信息也能携带到较后时间步长的细胞中来，这克服了短时记忆的影响。信息的添加和移除我们通过“门”结构来实现，“门”结构在训练过程中会去学习该保存或遗忘哪些信息。

2.3 Sigmoid
门结构中包含着 sigmoid 激活函数。Sigmoid 激活函数与 tanh 函数类似，不同之处在于 sigmoid 是把值压缩到 0~1 之间而不是 -1~1 之间。这样的设置有助于更新或忘记信息，因为任何数乘以 0 都得 0，这部分信息就会剔除掉。同样的，任何数乘以 1 都得到它本身，这部分信息就会完美地保存下来。这样网络就能了解哪些数据是需要遗忘，哪些数据是需要保存。

2.4 LSTM门结构
LSTM 有三种类型的门结构：遗忘门、输入门和输出门。
2.4.1 遗忘门
遗忘门的功能是决定应丢弃或保留哪些信息。来自前一个隐藏状态的信息和当前输入的信息同时传递到 sigmoid 函数中去，输出值介于 0 和 1 之间，越接近 0 意味着越应该丢弃，越接近 1 意味着越应该保留。

2.4.2 输入门
输入门用于更新细胞状态。首先将前一层隐藏状态的信息和当前输入的信息传递到 sigmoid 函数中去。将值调整到 0~1 之间来决定要更新哪些信息。0 表示不重要，1 表示重要。
其次还要将前一层隐藏状态的信息和当前输入的信息传递到 tanh 函数中去，创造一个新的侯选值向量。最后将 sigmoid 的输出值与 tanh 的输出值相乘，sigmoid 的输出值将决定 tanh 的输出值中哪些信息是重要且需要保留下来的。

2.4.3 细胞状态
下一步，就是计算细胞状态。首先前一层的细胞状态与遗忘向量逐点相乘。如果它乘以接近 0 的值，意味着在新的细胞状态中，这些信息是需要丢弃掉的。然后再将该值与输入门的输出值逐点相加，将神经网络发现的新信息更新到细胞状态中去。至此，就得到了更新后的细胞状态。

2.4.4 输出门
输出门用来确定下一个隐藏状态的值，隐藏状态包含了先前输入的信息。首先，我们将前一个隐藏状态和当前输入传递到 sigmoid 函数中，然后将新得到的细胞状态传递给 tanh 函数。
最后将 tanh 的输出与 sigmoid 的输出相乘，以确定隐藏状态应携带的信息。再将隐藏状态作为当前细胞的输出，把新的细胞状态和新的隐藏状态传递到下一个时间步长中去。

让我们再梳理一下。遗忘门确定前一个步长中哪些相关的信息需要被保留；输入门确定当前输入中哪些信息是重要的，需要被添加的；输出门确定下一个隐藏状态应该是什么。

北方苍鹰算法是一种用于优化长短时记忆（LSTM）模型的算法，主要用于时间序列数据的预测。NGO-LSTM（Normalized Gated Orthogonal LSTM）是一种改进的LSTM结构，它通过引入规范化门限和正交权重约束来提高模型性能。这两种技术的结合可以有效地应用于时间序列数据的预测任务。使用北方苍鹰算法优化的NGO-LSTM模型可以更好地捕捉时间序列数据中的长期依赖关系，并提高预测准确性。

⛄三、部分源代码

clc;clear;close
%%
lstm=load(‘result/lstm.mat’);
result(lstm.true_value,lstm.predict_value,‘LSTM’)

PSOlstm=load(‘result/PSO_lstm.mat’);
result(PSOlstm.true_value,PSOlstm.predict_value,‘NGO-LSTM’)

figure
plot(lstm.true_value)
hold on
plot(lstm.predict_value,‘-o’)
plot(PSOlstm.predict_value,‘-*’)
legend(‘真实值’,‘LSTM网络模型’,‘北方苍蝇算法优化LSTM神经网络模型’)
title(‘各算法结果’)
xlabel(‘预测样本点坐标’)
ylabel(‘瓦斯浓度’)

⛄四、matlab版本及参考文献

1 matlab版本
2014a

2 参考文献
[1]朱静, 李晓燕, 程银金. 基于改进的LSTM模型的时序时间序列数据预测研究[J]. 系统工程与电子技术, 2019, 41(9): 2020-2027.
[2]张宇, 张文建, 郭媛媛, 等. 基于NGO-LSTM的时序时间序列数据预测方法[J]. 计算机科学, 2018, 45(10): 187-191.
[3]张琳, 王鹏飞. 长短时记忆神经网络在时序时间序列数据预测中的应用研究[J]. 控制与决策, 2017, 32(12): 2273-2279.
[4]林小明, 张红. 基于NGO-LSTM的时序数据预测方法[J]. 计算机应用与软件, 2016, 33(11): 265-269.
[5]李文勇, 张洪峰. 基于NGO-LSTM的时序时间序列数据预测方法[J]. 计算机应用研究, 2016, 33(4): 1114-1116.

3 备注
简介此部分摘自互联网，仅供参考，若侵权，联系删除

🍅 仿真咨询
1 各类智能优化算法改进及应用
生产调度、经济调度、装配线调度、充电优化、车间调度、发车优化、水库调度、三维装箱、物流选址、货位优化、公交排班优化、充电桩布局优化、车间布局优化、集装箱船配载优化、水泵组合优化、解医疗资源分配优化、设施布局优化、可视域基站和无人机选址优化

2 机器学习和深度学习方面
卷积神经网络（CNN）、LSTM、支持向量机（SVM）、最小二乘支持向量机（LSSVM）、极限学习机（ELM）、核极限学习机（KELM）、BP、RBF、宽度学习、DBN、RF、RBF、DELM、XGBOOST、TCN实现风电预测、光伏预测、电池寿命预测、辐射源识别、交通流预测、负荷预测、股价预测、PM2.5浓度预测、电池健康状态预测、水体光学参数反演、NLOS信号识别、地铁停车精准预测、变压器故障诊断

3 图像处理方面
图像识别、图像分割、图像检测、图像隐藏、图像配准、图像拼接、图像融合、图像增强、图像压缩感知

4 路径规划方面
旅行商问题（TSP）、车辆路径问题（VRP、MVRP、CVRP、VRPTW等）、无人机三维路径规划、无人机协同、无人机编队、机器人路径规划、栅格地图路径规划、多式联运运输问题、车辆协同无人机路径规划、天线线性阵列分布优化、车间布局优化

5 无人机应用方面
无人机路径规划、无人机控制、无人机编队、无人机协同、无人机任务分配

6 无线传感器定位及布局方面
传感器部署优化、通信协议优化、路由优化、目标定位优化、Dv-Hop定位优化、Leach协议优化、WSN覆盖优化、组播优化、RSSI定位优化

7 信号处理方面
信号识别、信号加密、信号去噪、信号增强、雷达信号处理、信号水印嵌入提取、肌电信号、脑电信号、信号配时优化

8 电力系统方面
微电网优化、无功优化、配电网重构、储能配置

9 元胞自动机方面
交通流 人群疏散 病毒扩散 晶体生长

10 雷达方面
卡尔曼滤波跟踪、航迹关联、航迹融合