【MATLAB第19期】基于贝叶斯Bayes算法优化CNN-LSTM长短期记忆网络的单列时间序列模型及多输入单输出回归预测模型

基于贝叶斯Bayes算法优化CNN-LSTM长短期记忆网络的单列时间序列模型及多输入单输出回归预测模型

前言

前面在【MATLAB第8期】讲解了基于贝叶斯Bayes算法优化LSTM长短期记忆网络的时间序列预测模型，即单输入数据时间序列预测，见本人CSDN主页。

前面在【MATLAB第10期】讲解了基于贝叶斯Bayes算法优化LSTM长短期记忆网络的多输入单输出回归预测模型思路框架，见本人CSDN主页。

思路

本文分别使用单列时间序列数据及多输入单输出数据，进行BO-CNNLSTM预测。贝叶斯原理及内容不多介绍。

1.时间序列预测模型

时间序列数据：单列数据
超参数优化：有大量的超参数可供调整和优化，使用贝叶斯优化来优化CNN-LSTM参数

optimVars = [
    optimizableVariable('NoFilter1',[8 64],'Type','integer')                         %卷积层1卷积核数量 
    optimizableVariable('NoFilter2',[8 64],'Type','integer')                         %卷积层2卷积核数量
    optimizableVariable('FilterSize1',[3 16],'Type','integer')                       %卷积层1卷积核大小
    optimizableVariable('FilterSize2',[3 16],'Type','integer')                       %卷积层2卷积核大小
    optimizableVariable('Lag',[3 9],'Type','integer')                                %时间滞后阶数范围                 
    optimizableVariable('MiniBatchSize',{'16' '32' '48' },'Type','categorical')      %批处理范围选择 
    optimizableVariable('learningrate',[1e-5 1e-1],'Type','real',"Transform","log")];%学习率优化选择

贝叶斯优化次数：10

贝叶斯优化结果：（参数简化，如最大运行时间仅设置为10*60）

测试集MAE=
1.3433

测试集RMSE=
1.9390

2.回归预测模型

使用多输入单输出数据
80%训练 20%测试
超参数优化：有大量的超参数可供调整和优化，使用贝叶斯优化来优化CNN-LSTM参数
%% 优化CNNLSTM结构参数

optimVars = [
    optimizableVariable('numHiddenUnits1',[50 200],'Type','integer')% LSTM第一层隐含层神经元数
    optimizableVariable('numHiddenUnits2',[50 200],'Type','integer')% LSTM第二层隐含层神经元数
    optimizableVariable('NoFilter1',[8 64],'Type','integer') %卷积层卷积核数量 
    optimizableVariable('FilterSize1',[3 16],'Type','integer')%卷积层卷积核大小
  ];

**

预测结果：

**

CNNLSTM训练集均方根误差(RMSE)：3.2152
CNNLSTM训练集平均绝对误差（MAE）：2.5149
CNNLSTM训练集平均相对百分误差（MAPE）：5.0728%
CNNLSTM训练集R-square决定系数（R2）：0.98159
CNNLSTM测试集均方根误差(RMSE)：2.9023
CNNLSTM测试集平均绝对误差（MAE）：2.1754
CNNLSTM测试集平均相对百分误差（MAPE）：3.4288%
CNNLSTM测试集R-square决定系数（R2）：0.96609
BO-CNNLSTM训练集均方根误差(RMSE)：1.6549
BO-CNNLSTM训练集平均绝对误差（MAE）：1.2913
BO-CNNLSTM训练集平均相对百分误差（MAPE）：2.9743%
BO-CNNLSTM训练集R-square决定系数（R2）：0.99484
BO-CNNLSTM测试集均方根误差(RMSE)：2.4997
BO-CNNLSTM测试集平均绝对误差（MAE）：2.098
BO-CNNLSTM测试集平均相对百分误差（MAPE）：3.5159%
BO-CNNLSTM测试集R-square决定系数（R2）：0.98186

**## 代码获取方式

1.阅读首页置顶文章
2.关注CSDN
3.根据自动回复消息，回复“19期”以及相应指令，即可获取对应下载方式。