基于贝叶斯Bayes算法优化CNN-LSTM长短期记忆网络的单列时间序列模型及多输入单输出回归预测模型
前言
前面在【MATLAB第8期】讲解了基于贝叶斯Bayes算法优化LSTM长短期记忆网络的时间序列预测模型,即单输入数据时间序列预测,见本人CSDN主页。
前面在【MATLAB第10期】讲解了基于贝叶斯Bayes算法优化LSTM长短期记忆网络的多输入单输出回归预测模型思路框架,见本人CSDN主页。
思路
本文分别使用单列时间序列数据及多输入单输出数据,进行BO-CNNLSTM预测。贝叶斯原理及内容不多介绍。
1.时间序列预测模型
时间序列数据:单列数据
超参数优化:有大量的超参数可供调整和优化,使用贝叶斯优化来优化CNN-LSTM参数
optimVars = [
optimizableVariable('NoFilter1',[8 64],'Type','integer') %卷积层1卷积核数量
optimizableVariable('NoFilter2',[8 64],'Type','integer') %卷积层2卷积核数量
optimizableVariable('FilterSize1',[3 16],'Type','integer') %卷积层1卷积核大小
optimizableVariable('FilterSize2',[3 16],'Type','integer') %卷积层2卷积核大小
optimizableVariable('Lag',[3 9],'Type','integer') %时间滞后阶数范围
optimizableVariable('MiniBatchSize',{'16' '32' '48' },'Type','categorical') %批处理范围选择
optimizableVariable('learningrate',[1e-5 1e-1],'Type','real',"Transform","log")];%学习率优化选择
贝叶斯优化次数:10
贝叶斯优化结果:(参数简化,如最大运行时间仅设置为10*60)
测试集MAE=
1.3433
测试集RMSE=
1.9390
2.回归预测模型
使用多输入单输出数据
80%训练 20%测试
超参数优化:有大量的超参数可供调整和优化,使用贝叶斯优化来优化CNN-LSTM参数
%% 优化CNNLSTM结构参数
optimVars = [
optimizableVariable('numHiddenUnits1',[50 200],'Type','integer')% LSTM第一层隐含层神经元数
optimizableVariable('numHiddenUnits2',[50 200],'Type','integer')% LSTM第二层隐含层神经元数
optimizableVariable('NoFilter1',[8 64],'Type','integer') %卷积层卷积核数量
optimizableVariable('FilterSize1',[3 16],'Type','integer')%卷积层卷积核大小
];
**
预测结果:
**
CNNLSTM训练集均方根误差(RMSE):3.2152
CNNLSTM训练集平均绝对误差(MAE):2.5149
CNNLSTM训练集平均相对百分误差(MAPE):5.0728%
CNNLSTM训练集R-square决定系数(R2):0.98159
CNNLSTM测试集均方根误差(RMSE):2.9023
CNNLSTM测试集平均绝对误差(MAE):2.1754
CNNLSTM测试集平均相对百分误差(MAPE):3.4288%
CNNLSTM测试集R-square决定系数(R2):0.96609
BO-CNNLSTM训练集均方根误差(RMSE):1.6549
BO-CNNLSTM训练集平均绝对误差(MAE):1.2913
BO-CNNLSTM训练集平均相对百分误差(MAPE):2.9743%
BO-CNNLSTM训练集R-square决定系数(R2):0.99484
BO-CNNLSTM测试集均方根误差(RMSE):2.4997
BO-CNNLSTM测试集平均绝对误差(MAE):2.098
BO-CNNLSTM测试集平均相对百分误差(MAPE):3.5159%
BO-CNNLSTM测试集R-square决定系数(R2):0.98186
**## 代码获取方式
1.阅读首页置顶文章
2.关注CSDN
3.根据自动回复消息,回复“19期”以及相应指令,即可获取对应下载方式。