基于self-attention的GRU时间序列预测Python程序

已于 2023-12-14 12:00:38 修改
阅读量611 收藏 8
点赞数 1
分类专栏： 深度学习 文章标签： gru python 深度学习
于 2023-03-30 00:19:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41728700/article/details/129848598
版权

基于self-attention的GRU时间序列预测Python程序

 

特色：1、单变量，多变量输入，自由切换 

           2、单步预测，多步预测，自动切换

           3、基于Pytorch架构

           4、多个评估指标（MAE,MSE,R2,MAPE等）

           5、数据从excel文件中读取，更换简单

           6、标准框架，数据分为训练集、验证集，测试集

 

全部完整的代码，保证可以运行的代码看这里。

http://t.csdnimg.cn/El450

 

  ！！！如果第一个链接打不开，请点击个人首页，查看我的个人介绍。

（搜索到的产品后，点头像，就能看到全部代码）

黑科技小土豆的博客_CSDN博客-深度学习,32单片机领域博主

466e22100d7941c09a671257d5298761.png

3a558005fce7a0902c75d6e5ba71cea2.png

 

1、GRU-selfAttention模型背景简介

GRU全名Gated Recurrent Units，是一种递归神经网络的变种。它改变了LSTM中的记忆单元和门的结构，只使用了两个门（重置门和更新门）并且直接传递当前状态到输出。

self-attention机制同样适用于GRU网络，可以根据输入序列自适应地计算各个时间步的权重。

因此，GRU-selfAttention模型采用GRU网络结合self-attention机制，来更好地解决序列数据中存在的长期依赖关系和局部依赖之间的复杂关系。

2、GRU-selfAttention模型优点总结

本模型的优点有：

  • GRU结构相对LSTM更加轻量级，计算速度更快，可以更快地进行训练和预测；
  • self-attention机制能够更好地处理序列数据之间的关系，为GRU网络提供各个时间步不同的辅助信息，帮助提高预测准确率。

 

 

 

train_ratio = 0.7  # 训练集比例
val_ratio = 0.15  # 验证集比例
test_ratio = 0.15  # 测试集比例
input_length = 48  # 输入数据长度，多步预测建议长，单步预测建议短
output_length = 1  # 输出数据长度，1为单步预测，1以上为多步预测 请注意，随着输出长度的增长，模型训练时间呈指数级增长
learning_rate = 0.1  # 学习率
estimators = 100  # 迭代次数
max_depth = 5  # 树模型的最大深度
interval_length = 2000  # 预测数据长度，最长不可以超过总数据条数
scalar = True  # 是否使用归一化
scalar_contain_labels = True  # 归一化过程是否包含目标值的历史数据
target_value = 'load'  # 需要预测的列名，可以在excel中查看

3b6eadb0210c4946bfd54e910aa2fa84.png

 

 

 

黑科技小土豆
关注
专栏目录
基于LSTM + 注意力机制（self-attention）进行天气变化的时间序列预测
CSDN 精品推荐
10-23 1万+
一个天气时间序列数据集，它由德国耶拿的马克思 • 普朗克生物地球化学研究所的气象站记录。在这个数据集中，每 10 分钟记录 14 个不同的量（比如气温、气压、湿度、风向等），其中包含2009-2016多年的记录。数据集下载地址self attention是注意力机制中的一种，也是transformer中的重要组成部分，本文先重新回归一下注意力机制，再做进一步介绍。
Pytorch预测-使用PyTorch进行时间序列预测-Python开发
05-25
Pytorch Forecasting旨在通过神经网络简化实际案例和研究中的时间序列预测。 具体来说，该软件包提供了有关“迈向数据科学”的文章，介绍了该软件包并提供了背景信息。 Pytorch Forecasting旨在通过神经网络简化实际案例和研究中的时间序列预测。 具体来说，该软件包提供了一个时间序列数据集类，该类抽象了处理变量转换，缺失值，随机子采样，多个历史记录长度等的基础模型。基本模型类提供了时间序列模型的基本训练以及登录tensorboa
【数值预测案例】(5) LSTM 时间序列气温数据预测，附TensorFlow完整代码
博观而约取，厚积而薄发
04-24 3万+
大家好，今天和各位分享一下如何使用循环神经网络LSTM 完成有多个特征的气温预测。上一节中我介绍了 LSTM 的单个特征的预测，感兴趣的可以看一下：https://blog.csdn.net/dgvv4/article/details/124349963 1. 导入工具包 我使用GPU加速计算，没有GPU的朋友可以把调用GPU的代码段去掉。 import tensorflow as tf from tensorflow import keras from tensorflow.keras impo.
CNN-GRU-Attention预测模型及其Python实现
最新发布
qq_45441438的博客
08-11 597
因此，将CNN、GRU和注意力机制相结合，构建CNN-GRU-Attention预测模型，成为当前时间序列预测研究的一个热点方向。近年来，随着深度学习技术的迅猛发展，基于神经网络的预测模型在时间序列预测中展现出强大的潜力和优势。CNN-GRU-Attention预测模型通过结合CNN、GRU和注意力机制的优势，在时间序列预测领域展现出了强大的潜力和优势。在实际应用中，该模型具有广泛的应用前景和重要的研究价值。卷积层中的卷积核在输入数据上滑动，通过加权求和和激活函数的作用，提取出数据的局部特征。
基于加注意力机制（CNN-GRU-Attention）的时间序列预测程序
sGJJuqTG的博客
11-29 857
本文旨在介绍基于加注意力机制（CNN-GRU-Attention）的时间序列预测程序，该程序能够实现高精度的时间序列预测，并且可用于风电功率预测、电力负荷预测等应用。结论： 本文介绍了基于加注意力机制（CNN-GRU-Attention）的时间序列预测程序，该程序能够实现高精度的时间序列预测，并且可用于风电功率预测、电力负荷预测等应用。在模型结构中，CNN用于提取时间序列数据的特征，GRU则能够在时间序列上进行长短期记忆，并在此基础上预测未来的时间序列。在该表中，我们列出了模型的训练和测试结果。
python农产品价格预测_Python爬取惠农网，看看农产品价格如何
weixin_39836063的博客
12-02 853
defget_page_url(page_url, page_id):response_2= requests.get(url=page_url, headers=headers)selector_2=parsel.Selector(response_2.text)num_id= selector_2.css('#__layout > div > div > div > d...
基于self-attention的TCN-LSTM时间序列预测Python程序
黑科技小土豆的博客
03-01 2789
基于self-attention的TCN-LSTM时间序列预测Python程序
高级神经网络Keras+CNN-GRU-Attention负荷预测（Python代码实现）
weixin_61181717的博客
12-23 486
目录1 高级神经网络Keras知识点讲解及入门算例2 CNN-GRU-Attention负荷预测2.1 Python代码实现2.2 运行结果【数学建模】“华为杯”高级神经网络Keras(Python代码实现)数据：
Python数据分析案例26——时间序列的多阶段预测（GRU+RVM）
weixin_46277779的博客
03-31 2594
循环神经网络（GRU）+相关向量机（RVM）多阶段时间序列预测。
基于注意力机制attention结合门控循环单元GRU时间序列预测，GRU-Attention时间序列预测，单输入单输出模型。
机器学习-深度学习
03-17 596
基于注意力机制attention结合门控循环单元GRU时间序列预测，GRU-Attention时间序列预测，单输入单输出模型。 运行环境MATLAB版本为2020b及其以上。 评价指标包括:R2、MAE、MSE、RMSE等，代码质量极高，方便学习和替换数据。
GRU实现时间序列预测(PyTorch版)
热门推荐
CSDN 精品推荐
01-08 4万+
本篇文章我们采用了经典的循环神经网络GRU来对我们的时序数据建模处理，作为该专栏的第一篇文章，本篇将详细介绍项目的每个实现部分以及细节处理，帮助新手小白快速建立起如何处理时序数据的框架。
详解用Python进行时间序列预测的7种方法
09-17
主要介绍了详解用Python进行时间序列预测的7种方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
CNN+LSTM+Attention实现时间序列预测(PyTorch版)
CSDN 精品推荐
01-19 1万+
本专栏整理了《深度学习时间序列预测案例》，内包含了各种不同的基于深度学习模型的时间序列预测方法，例如LSTM、GRU、CNN（一维卷积、二维卷积）、LSTM-CNN、BiLSTM、Self-Attention、LSTM-Attention、Transformer等经典模型，包含项目原理以及源码，每一个项目实例都附带有完整的代码+数据集。
注意力机制 | Matlab基于CNN-BiLSTM-Attention基于卷积-双向长短期记忆网络结合注意力机制多输入单输出回归预测
前程算法屋的博客
03-27 2320
注意力机制 | Matlab基于CNN-BiLSTM-Attention基于卷积-双向长短期记忆网络结合注意力机制多输入单输出回归预测
pytorch实现gru-attention时间序列预测代码
05-10
下面是一个使用 PyTorch 实现 GRU-Attention 时间序列预测的示代码： ```python import torch import torch.nn as nn import torch.optim as optim import numpy as np import matplotlib.pyplot as plt # 数据集...
【pytorch】用 GRU 做时间序列预测
颹蕭蕭
05-24 1万+
文章目录数据datasetoptimizermodeltrain 数据 df.to_csv('traffic1.txt', header=None, index=None) df 数据为每小时记录一次的交通流量数据，每周有几天出现早高峰。 dataset import torch import numpy as np; from torch.autograd import Variable def normal_std(x): return x.std() * np.sqrt((len(x
SCI一区级 | Matlab实现GWO-CNN-GRU-selfAttention多变量多步时间序列预测
m0_57702748的博客
12-25 1063
在当今大数据时代，数据预测和分析已经成为许多领域的重要工具。为了更准确地预测数据趋势和结果，人们需要使用复杂的算法和模型来处理多维输入并产生单一输出。在这篇博客中，我们将介绍一种基于灰狼算法优化的注意力机制卷积神经网络（GWO-Attention-CNN）结合门控循环单元（GRU）的方法，用于实现数据多维输入单输出的预测。首先，让我们来了解一下这个方法中涉及到的一些关键概念。灰狼算法是一种基于自然界灰狼社会行为的优化算法，它模拟了灰狼群体的捕猎行为来寻找最优解。
pytorch搭建lstm（lstm+attention），gru网络
weixin_44819138的博客
02-07 6091
1、使用pytorch构建RNN实现多属性时间序列预测 示例 2、【pytorch】用 GRU 做时间序列预测 3、ps：来自莫凡大神 4、from hichenway
python农产品价格预测_【Machine Learning】决策树案例：基于python的商品购买能力预测系统...
weixin_39603117的博客
12-02 1399
fromsklearn.feature_extraction import DictVectorizerimport csvfromsklearn import treefromsklearn import preprocessingfrom sklearn.externals.six import StringIO读取csv文件，将其特征值存储在列表featureList中，将预测的目标值存储在...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值