基于LSTM和多头Attention的多特征输入的风速预测项目实战（pytorch）（多特征）

已于 2023-06-18 22:32:42 修改
阅读量1.1k 收藏 8
点赞数
文章标签： lstm pytorch 深度学习
于 2023-06-18 21:19:28 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44829487/article/details/131273675
版权

一、项目简介

在上一个多特征进行风速预测的项目基础上，本项目使用Pytorch基于pytorch的LSTM和多头Attention实现时间序列（风速）的预测，使用风速八个特征来预测风速（使用了数据集中的8个特征作为输入），其效果比本人之前文章所做的多特征二维CNN的预测效果好。

二、数据集

采用的是wind_dataset.csv（后文有源码和数据集获取方式），数据集含有时间、风速、降雨量等等参数，本项目采用如红框所示的八个特征来预测未来的风速，即WIND这一列。数据展示如下

 三、我的实验环境

平台：window11
语言：python3.9
编译器：Pycharm
Pytorch:1.13.1+cu116

四、项目文件及运行说明

train.py 里面是训练过程的通用代码，其他项目也可以在它的基础上修改
Config.py 里面是项目所需要用到的参数
DataSplit.py 实现数据划分的函数
model.py 模型LSTM_Attention的配置
wind_dataset.csv 风速预测的数据集
test_wind_CNN.py 运行文件，配置好训练的参数，进行训练并在里面绘图
loss.csv训练过程产生的损失
loss_draw.py 根据训练输出的loss.csv文件绘制loss损失
LSTM_Attention.pth 是训练过程中生成的模型参数，可用于做测试数据的预测(在test_pth.py中应用)
test_pth.py 根据生成的cnn.pth模型参数对测试数据进行预测。

 部分代码展示：

五、预测效果展示

①训练epoch=200的loss曲线

2DCNN实验损失loss对比局部图(同一坐标系的对比图)：左是本项目所提模型，右边是普通2DCNN模型 ，很明显左边的模型损失效果比2DCNN低，效果更好一些

②训练epoch=200的测试集预测效果：

六、总结与资源

若有朋友需要源码，可以关zhu【科 研 小 条】gong众号，回复【多特征LSTM多头注意力风速预测】，即可获得。

科研小条
关注
LSTM+注意力机制(Attention)实现时间序列预测(PyTorch版)
sybh的博客
10-04 1594
一、基于PyTorch搭建LSTM+注意力机制(Attention)模型实现风速时间序列预测 上一篇文章我们讲解的是如何基于注意力机制Attention来实现风速预测，对于结果来说并不是很好，因为对于时序数据来讲单纯考虑权重信息来说还是不够的，缺少了LSTM这类网络提取的时序信息，也就是注意力机制提取时序信息能力相对较差（这里说的是单层自注意力机制模块，目前Transformer、Bert这种大模型已经处理的很好）。 所以本项目为了提高模型效果，提出了一些改进，就是将LSTM引入上篇文章单纯采用的注意力
CNN+LSTM+Attention+DNN模型实战：pytorch搭建CNN+LSTM+Attention+DNN行车速度预测
07-16 4791
CNN+LSTM+Attention+DNN模型实战：pytorch搭建CNN+LSTM+Attention+DNN行车速度预测
超全总结！Pythorch 构建Attention-lstm时序模型 ！！
fengdu78的博客
06-22 557
核心点：使用PyTorch框架构建一个基于Attention机制的 LSTM 模型来处理时序数据。废话不多说，首先呢，今天和大家聊一个小案例：使用PyTorch构建Attention-LSTM时序模型！！时序数据分析在预测未来事件、检测异常、识别模式等领域中广泛应用。因此，下面将详细介绍如何使用PyTorch框架构建一个基于Attention机制的LSTM（长短期记忆网络）模型来处理时序数据。原理...
基于TensorFlow实现的以多维特征输入的RNN（LSTM）工程
08-03
本工程为基于TensorFlow实现的以多维特征作为输入且输出同样为多维的RNN（LSTM）模型。
基于LSTM的多特征输入单输出的二分类及多分类模型详解及效果展示，【案例分享】基于LSTM的多特征输入单输出二分类与多分类模型，附详细注释及matlab代码，包含分类效果图、迭代优化图和混淆矩阵图
最新发布
SZDBKGTH的博客
07-18 368
而混淆矩阵图则展示了模型在真实类别和预测类别之间的关系，可以帮助我们了解模型在不同类别上的分类效果。通过对输入数据进行预处理和标准化，使用LSTM网络模型和反向传播算法进行训练和优化，同时引入Dropout和正则化技术进行过拟合的控制，我们实现了一个具有较好分类性能的模型。在计算机科学领域，机器学习是一种强大的工具，它可以通过对大量数据的学习和分析，自动发现数据中的模式和规律。相比传统的RNN模型，LSTM具有更好的记忆能力和长期依赖性建模能力，因此在序列数据的分类和预测任务中表现出色。
基于pytorch使用LSTM和多头Attention风速预测项目实战（单特征）
weixin_44829487的博客
04-06 2524
在上一个使用一维卷积CNN进行风速预测的项目基础上，本项目基于Pytorch使用实现时间序列（风速）的预测，只使用风速一个特征来预测风速，适用于初学预测的小伙伴。项目参考了多个网络上的代码以及借助了chatgpt的灵感，对整个项目分解到各个py文件中形成一个完整项目的基本框架，其他类似项目可以用这个框架进行修改，增加了loss计算和相应的绘图模块，还增加了对pth文件的使用实现测试数据的预测。
风速预测 | Python基于CEEMDAN-CNN-Transformer+ARIMA的风速时间序列预测
关注并私信文章链接，获取对应文章源码和数据，机器学习之心的博客。
01-24 1440
风速预测 | Python基于CEEMDAN-CNN-Transformer-ARIMA的风速时间序列预测
pytorch lstm+attention
随笔
12-10 1220
原生： https://www.cnblogs.com/cxq1126/p/13504437.html https://zhuanlan.zhihu.com/p/62486641 https://blog.csdn.net/qsmx666/article/details/107118550?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromBaidu-1.control&depth_1-utm_source=distrib
基于pytorch的lstm时间回归预测（附全部代码）
neveranever的博客
12-29 1万+
首先说明作者是神经网络纯新手，虽然之前用过神经网络的代码，但基本上都是各种copy，只搞清楚了input_size和output_size，这两天因为工作需要要跑一个lstm的回归预测，在网上找的教程都不太清楚，对新手不是很友好，对新手友好的好像好多都是错的，自己也想了很久才想明白lstm回归预测到低是什么情况，跟大家分享一下，如果有错误也希望大家能指正。 首先是lstm的一张图，引自LSTM神经网络输入输出究竟是怎样的？，建议看本文章之前先找几个教程把lstm搞懂，我个人觉得lstm懂了的标志就是下面这
注意力机制(Attention)实现时间序列预测(PyTorch版)
CSDN 精品推荐
01-17 2868
本专栏整理了《深度学习时间序列预测案例》，内包含了各种不同的基于深度学习模型的时间序列预测方法，例如LSTM、GRU、CNN（一维卷积、二维卷积）、LSTM-CNN、BiLSTM、Self-Attention、LSTM-Attention、Transformer等经典模型，包含项目原理以及源码，每一个项目实例都附带有完整的代码+数据集。
Transformer实现时间序列预测(PyTorch版)
CSDN 精品推荐
01-21 4886
本专栏整理了《深度学习时间序列预测案例》，内包含了各种不同的基于深度学习模型的时间序列预测方法，例如LSTM、GRU、CNN（一维卷积、二维卷积）、LSTM-CNN、BiLSTM、Self-Attention、LSTM-Attention、Transformer等经典模型，包含项目原理以及源码，每一个项目实例都附带有完整的代码+数据集。
LSTM多变量预测
09-24
LSTM多变量预测，本程序利用TensorFlow构建一个简易LSTM模型，内含对多个变量因子，以及本程序的运行环境。
【数值预测案例】(5) LSTM 时间序列气温数据预测，附TensorFlow完整代码
热门推荐
博观而约取，厚积而薄发
04-24 3万+
大家好，今天和各位分享一下如何使用循环神经网络LSTM 完成有多个特征的气温预测。上一节中我介绍了 LSTM 的单个特征的预测，感兴趣的可以看一下：https://blog.csdn.net/dgvv4/article/details/124349963 1. 导入工具包 我使用GPU加速计算，没有GPU的朋友可以把调用GPU的代码段去掉。 import tensorflow as tf from tensorflow import keras from tensorflow.keras impo.
基于pytorch搭建多特征LSTM时间序列预测代码详细解读（附完整代码）
hardworking_T的博客
09-03 3万+
基于pytorch搭建多特征LSTM时间序列进行预测，对代码编写流程进行详细解读
基于TCN时间卷积网络（含因果膨胀卷积）的多特征输入风速预测项目实战（pytorch）（八维特征）【有数据集和代码，可运行】
weixin_44829487的博客
12-16 2277
该算法于2016年由Lea等人他们在做视频动作分割的研究首先提出，CNN模型以 CNN 模型为基础，并做了如下改进：①适用序列模型：因果卷积（Causal Convolution）②记忆历史：空洞卷积/膨胀卷积（Dilated Convolution），残差模块（Residual block）。1、因果卷积config中定义了项目的基本参数，可以在里面修改训练参数。若有朋友需要可运行的源码和数据集，可以guan注【科研小条】gong众号，回复【TCN多特征风速预测】，即可获得。
风速预测（四）基于Pytorch的EMD-Transformer模型
小蜗爱建模的博客
12-15 1928
本文基于前期介绍的风速数据（文末附数据集），先经过经验模态EMD分解,然后通过数据预处理，制作和加载数据集与标签，最后通过Pytorch实现EMD-Transformer模型对风速数据的预测。
「基于LSTM的多特征输入单输出二分类及多分类模型 - MATLAB实现，附详细注释和效果图」
EwBSrszahz的博客
05-27 569
而混淆矩阵图则展示了模型在真实类别和预测类别之间的关系，可以帮助我们了解模型在不同类别上的分类效果。通过对输入数据进行预处理和标准化，使用LSTM网络模型和反向传播算法进行训练和优化，同时引入Dropout和正则化技术进行过拟合的控制，我们实现了一个具有较好分类性能的模型。在计算机科学领域，机器学习是一种强大的工具，它可以通过对大量数据的学习和分析，自动发现数据中的模式和规律。相比传统的RNN模型，LSTM具有更好的记忆能力和长期依赖性建模能力，因此在序列数据的分类和预测任务中表现出色。
pytorch搭建lstm（lstm+attention），gru网络
weixin_44819138的博客
02-07 6089
1、使用pytorch构建RNN实现多属性时间序列预测 示例 2、【pytorch】用 GRU 做时间序列预测 3、ps：来自莫凡大神 4、from hichenway
知识追踪实战：lstm+ Multi-head Attention注意力机制的学生做题成绩预测实战
08-11 1575
知识追踪实战：lstm+ Multi-head Attention注意力机制的学生做题成绩预测实战
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

科研小条

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值