多步预测系列 | LSTM、CNN、Transformer、TCN、串行、并行模型集合

于 2024-05-15 13:57:00 发布
阅读量976 收藏 14
点赞数 22
分类专栏： 时间序列预测 文章标签： lstm cnn transformer
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40949048/article/details/138469320
版权

● 环境框架：python 3.9  pytorch 1.8 及其以上版本均可运行

● 使用对象：论文需求、毕业设计需求者

● 代码保证：代码注释详细、即拿即可跑通。

 往期精彩内容：

时序预测：LSTM、ARIMA、Holt-Winters、SARIMA模型的分析与比较-CSDN博客

风速预测（一）数据集介绍和预处理-CSDN博客

风速预测（二）基于Pytorch的EMD-LSTM模型-CSDN博客

风速预测（三）EMD-LSTM-Attention模型-CSDN博客

风速预测（四）基于Pytorch的EMD-Transformer模型-CSDN博客

风速预测（五）基于Pytorch的EMD-CNN-LSTM模型-CSDN博客

风速预测（六）基于Pytorch的EMD-CNN-GRU并行模型-CSDN博客

风速预测（七）VMD-CNN-BiLSTM预测模型-CSDN博客

CEEMDAN +组合预测模型(BiLSTM-Attention + ARIMA)-CSDN博客

CEEMDAN +组合预测模型(CNN-LSTM + ARIMA)-CSDN博客

CEEMDAN +组合预测模型(Transformer - BiLSTM+ ARIMA)-CSDN博客

 CEEMDAN +组合预测模型(CNN-Transformer + ARIMA)-CSDN博客

多特征变量序列预测(一)——CNN-LSTM风速预测模型-CSDN博客

多特征变量序列预测(二)——CNN-LSTM-Attention风速预测模型-CSDN博客

多特征变量序列预测(三)——CNN-Transformer风速预测模型-CSDN博客

多特征变量序列预测(四)Transformer-BiLSTM风速预测模型-CSDN博客

多特征变量序列预测(五) CEEMDAN+CNN-LSTM风速预测模型-CSDN博客

多特征变量序列预测(六) CEEMDAN+CNN-Transformer风速预测模型-CSDN博客

多特征变量序列预测(七) CEEMDAN+Transformer-BiLSTM预测模型-CSDN博客

基于麻雀优化算法SSA的CEEMDAN-BiLSTM-Attention的预测模型-CSDN博客

基于麻雀优化算法SSA的CEEMDAN-Transformer-BiGRU预测模型-CSDN博客

多特征变量序列预测(八)基于麻雀优化算法的CEEMDAN-SSA-BiLSTM预测模型-CSDN博客

多特征变量序列预测(九)基于麻雀优化算法的CEEMDAN-SSA-BiGRU-Attention预测模型-CSDN博客

多特征变量序列预测(10)基于麻雀优化算法的CEEMDAN-SSA-Transformer-BiLSTM预测模型-CSDN博客

超强预测算法：XGBoost预测模型-CSDN博客

VMD + CEEMDAN 二次分解，BiLSTM-Attention预测模型-CSDN博客

VMD + CEEMDAN 二次分解，CNN-LSTM预测模型-CSDN博客

基于麻雀优化算法SSA的预测模型——代码全家桶-CSDN博客

多特征变量序列预测 -TCN 预测模型-CSDN博客

VMD + CEEMDAN 二次分解，CNN-Transformer预测模型-CSDN博客

Python轴承故障诊断 (17)基于TCN-CNN并行的一维故障信号识别模型-CSDN博客

交叉注意力融合时空特征的TCN-Transformer并行预测模型-CSDN博客

风速预测（八）VMD-CNN-Transformer预测模型-CSDN博客

VMD + CEEMDAN 二次分解，Transformer-BiGRU预测模型-CSDN博客

独家原创 | 基于TCN-SENet +BiGRU-GlobalAttention并行预测模型-CSDN博客

独家原创 | BiTCN-BiGRU-CrossAttention融合时空特征的高创新预测模型-CSDN博客

基于LSTM网络的多步预测模型_pytorch transformer-CSDN博客

基于1DCNN网络的多步预测模型-CSDN博客

高创新 | CEEMDAN + SSA-TCN-BiLSTM-Attention预测模型-CSDN博客

基于Transformer网络的多步预测模型-CSDN博客

独家原创 | 超强组合预测模型！-CSDN博客

基于TCN网络的多步预测模型-CSDN博客

基于CNN-LSTM网络的多步预测模型-CSDN博客

包括完整流程数据代码处理：

多步预测数据集制作、数据加载、模型定义、参数设置、模型训练、模型测试、预测可视化、多步预测、模型评估

全网最低价，入门多步预测最佳教程

配有代码、文件介绍：

前言

本文基于前期介绍的电力变压器（文末附数据集），介绍一种基于CNN-LSTM网络的多步预测模型。

电力变压器数据集的详细介绍可以参考下文：

电力变压器数据集介绍和预处理-CSDN博客

1 电力变压器数据预处理与可视化

1.1 导入数据

1.2 多步预测预处理

2 基于CNN-LSTM的多步预测模型

2.1 定义CNN-LSTM网络模型

2.2 设置参数，训练模型

50个epoch，MSE 为0.000311，CNN-LSTM多步预测模型预测效果显著，模型能够充分提取序列的时空特征，收敛速度快，性能优越，预测精度高，适当调整模型参数，还可以进一步提高模型预测表现。

注意调整参数：

  • 可以适当增加CNN层数和每层通道数，微调学习率；

  • 调整LSTM层数和每层神经元个数，增加更多的 epoch （注意防止过拟合）

  • 可以改变滑动窗口长度（设置合适的窗口长度）

3 结果可视化和预测、模型评估

3.1 预测结果可视化

3.2 加载模型进行预测

3.3 模型评估

代码、数据如下：

对数据集和代码感兴趣的，可以关注最后一行

# 加载数据
import torch
from joblib import dump, load
import torch.utils.data as Data
import numpy as np
import pandas as pd
import torch
import torch.nn as nn
# 参数与配置
torch.manual_seed(100)  # 设置随机种子，以使实验结果具有可重复性
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
 
#代码和数据集：https://mbd.pub/o/bread/ZpWYmJps

建模先锋
关注
  • 22
    点赞
  • 踩
  • 14
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
多元多步时间序列的LSTM模型预测-基于Keras.zip
08-23
多元多步时间序列的LSTM模型预测——基于Keras.zip 本资源中的源码都是经过本地编译过可运行的，下载后按照文档配置好环境就可以运行。资源项目源码系统完整，内容都是经过专业老师审定过的，基本能够满足学习、使用参考需求，如果有需要的话可以放心下载使用。
基于Matlab的LSTM模型时间序列多步预测——多对单
05-12
LSTM在时间序列预测方面的应用非常广，但有相当一部分没有考虑使用多长的数据预测下一个，类似AR模型中的阶数P。我基于matlab2021版编写了用LSTM模型实现多步预测时间序列的程序代码，可以自己调整使用的数据“阶数”。序列数据是我随机生成的，如果有自己的数据，就可以自己简单改一下代码，读取txt或excel都可以。注意读取后的序列必须命名为行向量。代码最后还提供了误差分析部分，展示了绝对误差、MAE、RMSE、MAPE共4个误差指标，可供参考。代码基于matlab2021版编写，适用于2021版之后的所有版本。
神经网络结构——CNN、RNN、LSTM、Transformer ！！
不要给自己设限，尝试更多可能（思所向 皆可往）
03-04 3858
本文将从什么是CNN？什么是RNN？什么是LSTM？什么是Transformer？四个问题，简单介绍神经网络结构。神经网络结构通过卷积和池化操作有效地处理高维图像数据，降低计算复杂度，并提取关键特征进行识别和分类。网络结构用来提取图像的局部特征。用来大幅降低参数量级，实现数据降维。用来输出想要的结果。卷积神经网络（CNN）解决问题卷积操作提取图像特征，如边缘、纹理等，保留图像特征。池化操作大幅降低参数量级，实现数据降维，大大减少运算量，避免过拟合。工作原理。
基于torch实现cnn+lstm+attention 模型时间序列预测 代码模板 通用
04-17
基于torch实现cnn+lstm+attention 模型时间序列预测代码模板 通用
pytorch利用LSTM实现对股票进行多变量多步预测
09-10
pytorch利用LSTM实现对股票进行多变量多步预测
基于Matlab的LSTM模型时间序列多步预测——单对单
05-12
深度学习模型现在很火，应用的领域也是各方各面。在序列预测方面，当属LSTM模型的应用最广。我基于matlab编写了用LSTM模型实现多步预测时间序列的程序代码。序列数据是我随机生成的，如果有自己的数据，就可以自己简单改一下代码，读取txt或excel都可以。注意读取后的序列必须命名为行向量。代码最后还提供了误差分析部分，展示了绝对误差、MAE、RMSE、MAPE共4个误差指标，可供参考。代码基于matlab2021版编写，适用于2018版之后的所有版本。
详解Transformer在时序预测中的Encoder和Decoder过程：以负荷预测为例
KI的博客
10-31 3150
详解Transformer在时序预测中的Encoder和Decoder过程：以负荷预测为例
Transformer、rnn与cnn三大特征提取器的比较
ningyanggege的博客
04-30 2万+
自然语言处理中的三大特征处理器：RNN、CNN、Transformer，它们目前谁各方面占据优势?未来谁又更有前途呢？这篇文章用目前的各种实验数据给出了说明，结论是：放弃幻想，全面拥抱Transformer。 在辞旧迎新的时刻，大家都在忙着回顾过去一年的成绩（或者在灶台前含泪数锅），并对 2019 做着规划，当然也有不少朋友执行力和工作效率比较高，直接把 2018 年初制定的计划拷贝一下，...
【深度学习】特征提取器：Transformer,Rnn,CNN之间的相互比较
UESTC_201722的博客
06-10 4034
在辞旧迎新的时刻，大家都在忙着回顾过去一年的成绩（或者在灶台前含泪数锅），并对2019做着规划，当然也有不少朋友执行力和工作效率比较高，直接把2018年初制定的计划拷贝一下，就能在3秒钟内完成2019年计划的制定，在此表示祝贺。2018年从经济角度讲，对于所有人可能都是比较难过的一年，而对于自然语言处理领域来说，2018年无疑是个收获颇丰的年头，而诸多技术进展如果只能选择一项来讲的话，那么当之无愧...
rnn、lstm、cnn、transformer
Woody453253的博客
04-15 1317
卷积层虽然可以显著减少网络中连接的数量，但特征映射组中的神经元个数并没有显著减少。缺点：1单个卷积层难以捕获全局信息（改善方法有使用更大的卷积核、使用池化层、使用多层卷积层、空洞卷积tcn用了因果空洞卷积来处理时间序列问题。rnn容易出现梯度消失的问题，因为经过反向传播后，较远时间步的梯度趋近于0，导致模型难以学到远距离的信息。优点：通过门控机制，来记忆一些长期信息，相应也就保留了更多的梯度，缓解rnn梯度消失的问题。rnn不能并行的原因：不同时间步的隐藏层之间有关联。2 rnn中的反向传播。
时间序列预测 — 时间序列预测研究综述
qq_41921826的博客
11-10 5043
指对某种事物发展变化过程进行观测并按照一定频率采集得出的一组随机变量。就是从众多数据中挖掘出其蕴含的核心规律并且依据已知的因素对未来的数据做出准确的估计。由于大量物联网数据采集设备的接入、多维数据的爆炸增长和对预测精度的要求愈发苛刻，经典的参数模型以及传统机器学习算法难以满足预测任务的高效率和高精度需求。近年来，以卷积神经网络、循环神经网络和 Transformer模型为代表的深度学习算法在时间序列预测任务中取得了丰硕的成果。
放弃幻想，全面拥抱Transformer：自然语言处理三大特征抽取器（CNN/RNN/TF）比较
热门推荐
张俊林的博客
01-15 2万+
                                          author:张俊林                                   /*可以转载，转载请标明作者及知乎的出处*/ 如果看不清图片，请转到：放弃幻想，全面拥抱Transformer：自然语言处理三大特征抽取器（CNN/RNN/TF）比较   在辞旧迎新的时刻，大家都在忙着回顾过去一年的成...
放弃幻想，全面拥抱Transformer：NLP三大特征抽取器（CNN/RNN/TF）比较
AI科技大本营
01-13 7766
作者 | 张俊林，中国中文信息学会理事，目前在新浪微博 AI Lab 担任资深算法专家。在此之前，张俊林曾经在阿里巴巴任资深技术专家，以及在百度和用友担任技术经理及技术总...
项目七.ipynb
05-30
项目七.ipynb
grpcio-1.36.0-cp37-cp37m-manylinux2014_i686.whl
05-30
Python库是一组预先编写的代码模块，旨在帮助开发者实现特定的编程任务，无需从零开始编写代码。这些库可以包括各种功能，如数学运算、文件操作、数据分析和网络编程等。Python社区提供了大量的第三方库，如NumPy、Pandas和Requests，极大地丰富了Python的应用领域，从数据科学到Web开发。Python库的丰富性是Python成为最受欢迎的编程语言之一的关键原因之一。这些库不仅为初学者提供了快速入门的途径，而且为经验丰富的开发者提供了强大的工具，以高效率、高质量地完成复杂任务。例如，Matplotlib和Seaborn库在数据可视化领域内非常受欢迎，它们提供了广泛的工具和技术，可以创建高度定制化的图表和图形，帮助数据科学家和分析师在数据探索和结果展示中更有效地传达信息。
grpcio-1.39.0-cp38-cp38-manylinux2010_x86_64.whl
05-30
Python库是一组预先编写的代码模块，旨在帮助开发者实现特定的编程任务，无需从零开始编写代码。这些库可以包括各种功能，如数学运算、文件操作、数据分析和网络编程等。Python社区提供了大量的第三方库，如NumPy、Pandas和Requests，极大地丰富了Python的应用领域，从数据科学到Web开发。Python库的丰富性是Python成为最受欢迎的编程语言之一的关键原因之一。这些库不仅为初学者提供了快速入门的途径，而且为经验丰富的开发者提供了强大的工具，以高效率、高质量地完成复杂任务。例如，Matplotlib和Seaborn库在数据可视化领域内非常受欢迎，它们提供了广泛的工具和技术，可以创建高度定制化的图表和图形，帮助数据科学家和分析师在数据探索和结果展示中更有效地传达信息。
RunCat-for-windows：在 Windows 任务栏飞奔的“小猫”
05-30
RunCat_for_windows：在 Windows 任务栏飞奔的“小猫”。这是一个用 C# 写的小工具，它会在 Windows 任务栏显示一只奔跑的小猫动画，CPU 使用率越高它跑得越快。 猫奴必备。让桌面跑动起来的可爱猫主题桌面宠物！ 项目地址:https://github.com/Kyome22/RunCat_for_windows RunCat 是一个专为Windows用户设计的独特桌面应用，将编程与乐趣完美结合，让你在编码时也能享受到一丝轻松与惬意。这款应用会在你的任务栏上显示一只活泼的小猫，随着你编程的速度奔跑、跳跃，仿佛代码的每一行都在驱动小猫的生命力。
基于SSM/Layui框架实现的学生宿舍管理系统（毕业设计）
最新发布
05-30
【作品名称】：基于SSM/Layui框架实现的学生宿舍管理系统（毕业设计） 【适用人群】：适用于希望学习不同技术领域的小白或进阶学习者。可作为毕设项目、课程设计、大作业、工程实训或初期项目立项。 【项目介绍】： #### 实现功能 - [x] 管理员的登录与登出 - [x] 管理员,班级,学生,宿舍，卫生，访客各模块增删改查 - [x] 个别模块关联查询 - [x] 各个模块数据导出Excel
我需要多输入变量多步预测的pytorch LSTM程序
05-13
以下是一个示例程序，用于多输入变量的多步预测： ```python import torch import torch.nn as nn import numpy as np # 定义LSTM模型 class LSTM(nn.Module): def __init__(self, input_size, hidden_size, output_size): super().__init__() self.hidden_size = hidden_size self.lstm = nn.LSTM(input_size, hidden_size) self.fc = nn.Linear(hidden_size, output_size) def forward(self, input): h0 = torch.zeros(1, input.size(1), self.hidden_size).to(input.device) c0 = torch.zeros(1, input.size(1), self.hidden_size).to(input.device) output, _ = self.lstm(input, (h0, c0)) output = self.fc(output[-1]) return output # 定义训练函数 def train(model, train_input, train_target, optimizer, criterion, num_epochs): for epoch in range(num_epochs): optimizer.zero_grad() output = model(train_input) loss = criterion(output, train_target) loss.backward() optimizer.step() if epoch % 100 == 0: print('Epoch [{}/{}], Loss: {:.4f}'.format(epoch, num_epochs, loss.item())) # 生成随机数据 data = np.random.rand(1000, 5) target = np.random.rand(1000, 2) # 划分训练集和测试集 train_data = data[:800, :] train_target = target[:800, :] test_data = data[800:, :] test_target = target[800:, :] # 将数据转换为PyTorch张量 train_input = torch.from_numpy(train_data[:, None, :]).float() train_target = torch.from_numpy(train_target).float() test_input = torch.from_numpy(test_data[:, None, :]).float() test_target = torch.from_numpy(test_target).float() # 定义模型和优化器 input_size = train_data.shape[1] output_size = train_target.shape[1] hidden_size = 10 model = LSTM(input_size, hidden_size, output_size) optimizer = torch.optim.Adam(model.parameters(), lr=0.01) criterion = nn.MSELoss() # 训练模型 num_epochs = 1000 train(model, train_input, train_target, optimizer, criterion, num_epochs) # 测试模型 with torch.no_grad(): test_output = model(test_input) test_loss = criterion(test_output, test_target) print('Test Loss: {:.4f}'.format(test_loss.item())) ``` 这个程序中，我们首先定义了一个`LSTM`类，该类包含一个LSTM层和一个全连接层。然后我们定义了一个`train`函数，用于训练模型。接下来，我们生成一些随机数据并将其划分为训练集和测试集，并将其转换为PyTorch张量。然后，我们定义了一个`LSTM`模型和一个优化器，并使用`train`函数训练模型。最后，我们使用训练好的模型对测试集进行预测，并计算测试误差。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

建模先锋

你的鼓励将是我最大的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值