CNN + LSTM 航空乘客预测

已于 2022-09-14 22:47:08 修改
阅读量8.9k 收藏 187
点赞数 18
分类专栏： 时间序列预测 机器学习算法研究 Python基础学习
于 2021-08-22 19:50:36 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45063703/article/details/119856737
版权

前言

  1. LSTM 航空乘客预测单步预测的两种情况。 简单运用LSTM 模型进行预测分析。
  2. 加入注意力机制的LSTM 对航空乘客预测采用了目前市面上比较流行的注意力机制，将两者进行结合预测。
  3. 多层 LSTM 对航空乘客预测 简单运用多层的LSTM 模型进行预测分析。
  4. 双向LSTM 对航空乘客预测双向LSTM网络对其进行预测。
  5. MLP多层感知器 对航空乘客预测 使用MLP 对航空乘客预测

本文采用的CNN + LSTM网络对其进行预测。

我喜欢直接代码+ 结果展示
先代码可以跑通，才值得深入研究每个部分之间的关系；进而改造成自己可用的数据。

1 数据集

链接: https://pan.baidu.com/s/1jv7A2JvIhA6oqvtYnYh9vQ
提取码: m5j5

2 模型

卷积神经网络，简称CNN，是为处理二维图像数据而开发的一种神经网络。
CNN可以非常有效地从一维序列数据（例如单变量时间序列数据）中自动提取和学习特征。
CNN模型可以在具有LSTM后端的混合模型中使用，其中CNN用于解释输入的子序列，这些子序列一起作为序列提供给LSTM模型进行解释。这种混合模型称为CNN-LSTM。

2.1 单步预测 1—》1

  • 代码
#单变量，1---》1 

import numpy
import matplotlib.pyplot as plt
from pandas import read_csv
import math
from keras.models import Sequential
from keras.layers import Dense
from keras.layers import LSTM
from keras.layers import TimeDistributed
from keras.layers.convolutional import Conv1D
from keras.layers.convolutional import MaxPooling1D
from keras.layers import Flatten
from sklearn.preprocessing import MinMaxScaler
from sklearn.metrics import mean_squared_error
#matplotlib inline

# load the dataset
dataframe = read_csv('airline-passengers.csv', usecols=[1], engine='python')
# print(dataframe)
print("数据集的长度：",len(dataframe))
dataset = dataframe.values
# 将整型变为float
dataset = dataset.astype('float32')

plt.plot(dataset)
plt.show()


# X是给定时间(t)的乘客人数，Y是下一次(t + 1)的乘客人数。
# 将值数组转换为数据集矩阵,look_back是步长。
def create_dataset(dataset, look_back=1):
    dataX, dataY = [], []
    for i in range(len(dataset)-look_back-1):
        a = dataset[i:(i+look_back), 0]
        # X按照顺序取值
        dataX.append(a)
        # Y向后移动一位取值
        dataY.append(dataset[i + look_back, 0])
    return numpy.array(dataX), numpy.array(dataY)

# fix random seed for reproducibility
numpy.random.seed(7)


# 数据缩放
scaler = MinMaxScaler(feature_range=(0, 1))
dataset = scaler.fit_transform(dataset)


# 将数据拆分成训练和测试，2/3作为训练数据
train_size = int(len(dataset) * 0.67)
test_size = len(dataset) - train_size
train, test = dataset[0:train_size,:], dataset[train_size:len(dataset),:]
print("原始训练集的长度：",train_size)
print("原始测试集的长度：",test_size)



# 构建监督学习型数据
look_back = 1
trainX, trainY = create_dataset(train, look_back)
testX, testY = create_dataset(test, look_back) 
print("转为监督学习，训练集数据长度：", len(trainX))
# print(trainX,trainY)
print("转为监督学习，测试集数据长度：",len(testX))
# print(testX, testY )
# 数据重构为4D [samples, subsequences, timesteps, features]
trainX = numpy.reshape(trainX, (trainX.shape[0], 1,1, trainX.shape[1]))
testX = numpy.reshape(testX, (testX.shape[0],1, 1, testX.shape[1]))
print('构造得到模型的输入数据(训练数据已有标签trainY): ',trainX.shape,testX.shape)

# create and fit the LSTM network
model = Sequential()
model.add(TimeDistributed(Conv1D(filters=64, kernel_size=1, activation='relu', input_shape=(None,1, testX.shape[1]))))
model.add(TimeDistributed(MaxPooling1D(pool_size=1)))
model.add(TimeDistributed(Flatten()))

model.add(LSTM(4,activation='relu'))
model.add(Dense(1))

model.compile(loss='mse', optimizer='adam')
model.fit(trainX, trainY, epochs=50)

# 打印模型
model.summary()

# 开始预测
trainPredict = model.predict(trainX)
testPredict = model.predict(testX)

# 逆缩放预测值
trainPredict = scaler.inverse_transform(trainPredict)
trainY = scaler.inverse_transform([trainY])
testPredict = scaler.inverse_transform(testPredict)
testY = scaler.inverse_transform([testY])

# 计算误差
trainScore = math.sqrt(mean_squared_error(trainY[0], trainPredict[:,0]))
print('Train Score: %.2f RMSE' % (trainScore))
testScore = math.sqrt(mean_squared_error(testY[0], testPredict[:,0]))
print('Test Score: %.2f RMSE' % (testScore))


# shift train predictions for plotting
trainPredictPlot = numpy.empty_like(dataset)
trainPredictPlot[:, :] = numpy.nan
trainPredictPlot[look_back:len(trainPredict)+look_back, :] = trainPredict

# shift test predictions for plotting
testPredictPlot = numpy.empty_like(dataset)
testPredictPlot[:, :] = numpy.nan
testPredictPlot[len(trainPredict)+(look_back*2)+1:len(dataset)-1, :] = testPredict

# plot baseline and predictions
plt.plot(scaler.inverse_transform(dataset))
plt.plot(trainPredictPlot)
plt.plot(testPredictPlot)
plt.show()
  • 结果展示

数据集的长度： 144
在这里插入图片描述

原始训练集的长度： 96
原始测试集的长度： 48
转为监督学习，训练集数据长度： 94
转为监督学习，测试集数据长度： 46
构造得到模型的输入数据(训练数据已有标签trainY):  (94, 1, 1, 1) (46, 1, 1, 1)
Epoch 1/50
3/3 [==============================] - 1s 2ms/step - loss: 0.0581
Epoch 2/50
3/3 [==============================] - 0s 2ms/step - loss: 0.0540

Model: "sequential_26"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
time_distributed_45 (TimeDis (None, 1, 1, 64)          128       
_________________________________________________________________
time_distributed_46 (TimeDis (None, 1, 1, 64)          0         
_________________________________________________________________
time_distributed_47 (TimeDis (None, 1, 64)             0         
_________________________________________________________________
lstm_20 (LSTM)               (None, 4)                 1104      
_________________________________________________________________
dense_15 (Dense)             (None, 1)                 5         
=================================================================
Total params: 1,237
Trainable params: 1,237
Non-trainable params: 0
_________________________________________________________________
Train Score: 32.66 RMSE
Test Score: 65.98 RMSE

在这里插入图片描述

2.2 单步预测 3—》1

  • 代码
# 单变量，3---》1 

import numpy
import matplotlib.pyplot as plt
from pandas import read_csv
import math
from keras.models import Sequential
from keras.layers import Dense
from keras.layers import LSTM
from keras.layers import TimeDistributed
from keras.layers.convolutional import Conv1D
from keras.layers.convolutional import MaxPooling1D
from keras.layers import Flatten
from sklearn.preprocessing import MinMaxScaler
from sklearn.metrics import mean_squared_error
#matplotlib inline

# load the dataset
dataframe = read_csv('airline-passengers.csv', usecols=[1], engine='python')
# print(dataframe)
print("数据集的长度：",len(dataframe))
dataset = dataframe.values
# 将整型变为float
dataset = dataset.astype('float32')

plt.plot(dataset)
plt.show()


# X是给定时间(t)的乘客人数，Y是下一次(t + 1)的乘客人数。
# 将值数组转换为数据集矩阵,look_back是步长。
def create_dataset(dataset, look_back=1):
    dataX, dataY = [], []
    for i in range(len(dataset)-look_back-1):
        a = dataset[i:(i+look_back), 0]
        # X按照顺序取值
        dataX.append(a)
        # Y向后移动一位取值
        dataY.append(dataset[i + look_back, 0])
    return numpy.array(dataX), numpy.array(dataY)

# fix random seed for reproducibility
numpy.random.seed(7)


# 数据缩放
scaler = MinMaxScaler(feature_range=(0, 1))
dataset = scaler.fit_transform(dataset)


# 将数据拆分成训练和测试，2/3作为训练数据
train_size = int(len(dataset) * 0.67)
test_size = len(dataset) - train_size
train, test = dataset[0:train_size,:], dataset[train_size:len(dataset),:]
print("原始训练集的长度：",train_size)
print("原始测试集的长度：",test_size)



# 构建监督学习型数据
look_back = 3
trainX, trainY = create_dataset(train, look_back)
testX, testY = create_dataset(test, look_back) 
print("转为监督学习，训练集数据长度：", len(trainX))
# print(trainX,trainY)
print("转为监督学习，测试集数据长度：",len(testX))
# print(testX, testY )
# 数据重构为4D [samples, subsequences, timesteps, features]
trainX = numpy.reshape(trainX, (trainX.shape[0], 1,trainX.shape[1],1))
testX = numpy.reshape(testX, (testX.shape[0],1,testX.shape[1], 1))
print('构造得到模型的输入数据(训练数据已有标签trainY): ',trainX.shape,testX.shape)

# create and fit the LSTM network
model = Sequential()
model.add(TimeDistributed(Conv1D(filters=64, kernel_size=1, activation='relu', input_shape=(None,testX.shape[1],1))))
model.add(TimeDistributed(MaxPooling1D(pool_size=1)))
model.add(TimeDistributed(Flatten()))

model.add(LSTM(4,activation='relu'))
model.add(Dense(1))

model.compile(loss='mse', optimizer='adam')
model.fit(trainX, trainY, epochs=50)

# 打印模型
model.summary()

# 开始预测
trainPredict = model.predict(trainX)
testPredict = model.predict(testX)

# 逆缩放预测值
trainPredict = scaler.inverse_transform(trainPredict)
trainY = scaler.inverse_transform([trainY])
testPredict = scaler.inverse_transform(testPredict)
testY = scaler.inverse_transform([testY])

# 计算误差
trainScore = math.sqrt(mean_squared_error(trainY[0], trainPredict[:,0]))
print('Train Score: %.2f RMSE' % (trainScore))
testScore = math.sqrt(mean_squared_error(testY[0], testPredict[:,0]))
print('Test Score: %.2f RMSE' % (testScore))


# shift train predictions for plotting
trainPredictPlot = numpy.empty_like(dataset)
trainPredictPlot[:, :] = numpy.nan
trainPredictPlot[look_back:len(trainPredict)+look_back, :] = trainPredict

# shift test predictions for plotting
testPredictPlot = numpy.empty_like(dataset)
testPredictPlot[:, :] = numpy.nan
testPredictPlot[len(trainPredict)+(look_back*2)+1:len(dataset)-1, :] = testPredict

# plot baseline and predictions
plt.plot(scaler.inverse_transform(dataset))
plt.plot(trainPredictPlot)
plt.plot(testPredictPlot)
plt.show()
  • 结果展示
原始训练集的长度： 96
原始测试集的长度： 48
转为监督学习，训练集数据长度： 92
转为监督学习，测试集数据长度： 44
构造得到模型的输入数据(训练数据已有标签trainY):  (92, 1, 3, 1) (44, 1, 3, 1)
Epoch 1/50
3/3 [==============================] - 1s 3ms/step - loss: 0.0589
Epoch 2/50
3/3 [==============================] - 0s 3ms/step - loss: 0.0531

Model: "sequential_25"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
time_distributed_42 (TimeDis (None, 1, 3, 64)          128       
_________________________________________________________________
time_distributed_43 (TimeDis (None, 1, 3, 64)          0         
_________________________________________________________________
time_distributed_44 (TimeDis (None, 1, 192)            0         
_________________________________________________________________
lstm_19 (LSTM)               (None, 4)                 3152      
_________________________________________________________________
dense_14 (Dense)             (None, 1)                 5         
=================================================================
Total params: 3,285
Trainable params: 3,285
Non-trainable params: 0
_________________________________________________________________
Train Score: 33.02 RMSE
Test Score: 79.32 RMSE

在这里插入图片描述

3 总结

  • 将CNN 和LSTM 组合的话，可以利用两者的优势，提高预测的能力
  • 写代码的时候，注意格式的转化和连接过程的格式
  • CNN-LSTM是CNN（卷积层）与LSTM的集成。首先，模型的CNN部分处理数据，一维结果输入LSTM模型。
  • 每一个时间步，都使用卷积网络结构进行输入的特征提取
nsq_ai
关注
专栏目录
创新点！CNN与LSTM结合，实现更准预测、更快效率、更高性能！
学姐带你玩AI的博客
05-13 3694
LSTM擅长捕捉序列数据中的长期依赖关系，而CNN则擅长提取图像数据的局部特征。通过结合两者的优势，我们可以让模型同时考虑到数据的时序信息和空间信息，减少参数降低过拟合风险，从而提供因此，在学术界与工业界都有广泛应用。比如在股票预测中，这类结合模型不仅可以捕捉股票市场数据的复杂性，还可以提高预测模型在面对市场波动时的鲁棒性。本文整理了，包括引入注意力机制的策略，并简单提炼了可参考的方法以及创新点，希望能给各位的论文添砖加瓦。论文原文需要的同学看文末。
CNN-LSTM神经网络多输入单输出回归预测【MATLAB】
最新发布
沅的博客
08-14 716
数据预处理：将不同来源的数据转换为适合模型的格式。特征提取：通过CNN提取空间特征。时序建模：通过LSTM建模时序特征。回归预测：通过全连接层生成预测值。CNN-LSTM神经网络在处理复杂、多维度的数据时具有显著优势，尤其适合需要同时处理空间和时序特征的回归预测任务。
【深度学习】——CNN结合LSTM模型
qq_48108092的博客
04-07 1万+
需要注意的是，CNN与LSTM结合的具体架构和超参数设置需要根据具体的数据和任务需求进行调整，以获得最佳的性能。这样，LSTM可以利用卷积层提取的空间特征，并结合序列数据的时序信息进行建模。池化层：在卷积层之后添加池化层，以降低特征图的维度，并保留重要的特征信息。通常情况下，序列数据可以表示为三维的张量，其中第一维表示样本数，第二维表示时间步，第三维表示特征数。模型评估：使用验证集或测试集对训练好的模型进行评估，可以使用各种评估指标如准确率、精确率、召回率、F1分数等来评估模型的性能。
深度学习实战案例：基于LSTM的国际航空公司乘客预测（附完整代码）
Python学习与数据挖掘
05-02 4255
时间序列预测问题是一类相对困难的预测建模问题。与回归预测建模不同，时间序列还增加了输入变量之间序列依赖性的复杂性。长短期记忆网络或 LSTM 网络是一种用于深度学习的递归神经网络，比较擅长解决此类问题。在本文中，我将分享如何使用 Keras 深度学习库在 Python 中开发 LSTM 网络来解决演示时间序列预测问题。这些示例将准确展示你如何针对时间序列预测建模问题开发自己的不同结构的 LSTM 网络。
CNN+LSTM+Attention实现时间序列预测
热门推荐
pengxiang1998的博客
11-17 3万+
LSTM 隐藏层输出向量作为注意力层的输入，通过一个全连接层进行训练，再对全连接层的输出使用 softmax 函数进行归一化，得出每一个隐藏层向量的分配权重，权重大小表示每个时间步的隐状态对于预测结果的重要程度。权重训练过程如下：Ｓ。
LSTM汇总
weixin_42497252的博客
10-22 532
https://www.evolutionarylearn.com/paper/lstm-review-ts/ 一、LSTM基础理论资料汇总/综述 Understanding LSTM Networks Christopher Olah大神的博客文章，用专业而易懂的方式介绍了LSTM的架构。目前，很大部分的中文LSTM介绍与分享均参考该篇博文，影响巨大。另外,Olah的博客中还包括神经网络的其他结...
网络游戏-基于深度时空残差网络的航班需求预测方法研究.zip
09-19
具体实现过程中，DSTN可能包含卷积神经网络（CNN）来处理空间信息，循环神经网络（RNN）或其变种如长短时记忆网络（LSTM）来处理时间序列数据。通过结合这两者，DSTN能够对时间和空间信息进行联合建模，以提高预测...
深度强化学习AAP：DeepAir解决方案：使用深度强化学习的航空公司辅助设施的价格建议。 AAP是指航空公司的辅助定价
02-05
VAE则可以用于数据的降维和特征提取，帮助理解和预测乘客对辅助服务价值的感知。 数据科学和数据挖掘在DeepAir中起到基础性作用。通过对历史销售数据的分析，可以揭示出乘客消费习惯、价格敏感度等信息，这些信息是...
"电子商务情感分析与客户预测
沙特国王大学学报在电子商务数据中使用情感分析预测客户Pinar Savcia，Bihter DasbaArçelikA. S，. KaraagaCaddesi2-6，SütlüceBeyoglu，34445Istanbul，Turkeyb土耳其埃拉泽23119 Firat大学技术学院软件工程系阿...
加入注意力机制的LSTM 对航空乘客预测
weixin_45063703的博客
08-21 1万+
这篇文章LSTM 航空乘客预测 单步预测和多步预测。简单运用LSTM 模型进行预测分析。想着可以进一步改进LSTM模型，就采用了目前市面上比较流行的注意力机制，将两者进行结合，对LSTM进行改进，其预测效果可能会变好。我喜欢直接代码+ 结果展示先代码可以跑通，才值得深入研究每个部分之间的关系；进而改造成自己可用的数据。注意力机制的作用代码中 LSTM后面连接注意力机制的代码不是说加了注意力机制的LSTM网络一定会好于LSTM，具体要看数据、参数和实验环境等条件。
LSTM.zip_LSTM_航班预测_预测_预测 LSTM
07-14
用于运行LSTM的预测代码，例子是国际航班客流量。使用语言为python.
cnn+lstm+attention对时序数据进行预测
机器学习、深度学习、强化学习、迁移学习
05-05 2万+
本文主要讲解：cnn+lstm+attention对时序数据进行预测
基于cnn-lstm的交通流量预测
abc991835105的博客
03-12 3266
CNN是一种深度信念网络，优点在可以处理大输入数据，能训练中自动降维，训练的过程就是降维的过程，LSTM神经网络在处理时间序列数据方面有独特的优势，对长短期的数据有单独的处理机制，二者结合预测时间序列的交通流量，准确率比一般神经网络更高
深度学习模型 CNN+LSTM 预测收盘价 by HeartBearting（转）
baidu_37520773的博客
03-23 529
深度学习模型 CNN+LSTM 预测收盘价 聚宽数据JQData-本地调用的量化金融数据接口—— 本篇文章 by HeartBearting 原文：https://zhuanlan.zhihu.com/p/54375633 上一篇浏览量很大，感谢各位的关注！ 能够在这里分享一些实验，一起领略 数据科学之美，也很开心。 以后，这个实验的模型会不断深化。 之后，也会分享一些 论文里 基于深度学习的时间...
基于CNN-BiLSTM的数据回归预测
yuchunyu12的博客
07-22 406
基于CNN-BiLSTM的数据回归预测是一种结合卷积神经网络（CNN）和双向长短期记忆网络（BiLSTM）的混合模型，用于处理和预测时间序列数据。本公众号致力于解决找代码难，写代码怵。各位有什么急需的代码，欢迎后台留言~不定时更新科研技巧类推文，可以一起探讨科研，写作，文献，代码等诸多学术问题，我们一起进步。的个人公众号（即文章下方二维码），并回复。MATLAB科研小白。
LSTM+CNN模型厄尔尼诺事件预测
qq_45957458的博客
10-28 4755
基于Pytorch对海温异常事件中的Nino指数进行预测，使用CNN+LSTM模型并通过软投票的方式预测未来三年厄尔尼诺事件的可能性
cnn+lstm剩余寿命预测
01-16
基于CNN+LSTM的剩余寿命预测是一种结合了卷积神经网络（CNN）和长短期记忆网络（LSTM）的模型。这种模型可以用于预测设备的剩余寿命，通过使用传感器数据的历史记录来预测设备故障的时间。 下面是一个使用CNN+LSTM进行剩余寿命预测的示例代码： ```python import numpy as np from keras.models import Sequential from keras.layers import Conv1D, MaxPooling1D, LSTM, Dense # 准备数据 # 假设我们有一个包含N个序列的数据集，每个序列由T个时间步长的传感器读数组成 # 假设每个序列的长度相同，最后一个时间步长对应于设备故障发生的时间 # 生成示例数据 N = 1000 # 序列数量 T = 100 # 时间步长数量 sensor_data = np.random.rand(N, T, 1) # 生成随机传感器数据 # 划分训练集和测试集 train_ratio = 0.8 train_size = int(N * train_ratio) train_data = sensor_data[:train_size] test_data = sensor_data[train_size:] # 构建模型 model = Sequential() model.add(Conv1D(filters=32, kernel_size=3, activation='relu', input_shape=(T,1))) model.add(MaxPooling1D(pool_size=2)) model.add(LSTM(50)) model.add(Dense(1)) # 编译模型 model.compile(optimizer='adam', loss='mse') # 训练模型 model.fit(train_data, train_labels, epochs=10, batch_size=32) # 预测剩余寿命 predictions = model.predict(test_data) # 打印预测结果 print(predictions) ``` 在上面的代码中，我们首先准备了数据，然后构建了一个包含卷积层、池化层和LSTM层的模型。接下来，我们编译模型并使用训练数据进行训练。最后，我们使用测试数据进行剩余寿命的预测，并打印预测结果。
评论 32
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

nsq_ai

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值