PyTorch搭建LSTM实现多变量时间序列预测（负荷预测）

已于 2024-04-05 22:40:19 修改
阅读量4.1w 收藏 296
点赞数 39
分类专栏： PyTorch DL 时间序列预测 文章标签： LSTM 多变量时间序列预测 pytorch 负荷预测
于 2022-03-24 12:52:12 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Cyril_KI/article/details/123707898
版权
时间序列预测 同时被 3 个专栏收录
50 篇文章 518 订阅
订阅专栏
PyTorch
39 篇文章 204 订阅
订阅专栏
DL
36 篇文章 147 订阅
订阅专栏

目录

I. 前言

在前面的一篇文章PyTorch搭建LSTM实现时间序列预测（负荷预测）中，我们利用LSTM实现了负荷预测，但我们只是简单利用负荷预测负荷，并没有利用到其他一些环境变量，比如温度、湿度等。

本篇文章主要考虑用PyTorch搭建LSTM实现多变量时间序列预测。

系列文章：

  1. 深入理解PyTorch中LSTM的输入和输出（从input输入到Linear输出）
  2. PyTorch搭建LSTM实现时间序列预测（负荷预测）
  3. PyTorch中利用LSTMCell搭建多层LSTM实现时间序列预测
  4. PyTorch搭建LSTM实现多变量时间序列预测（负荷预测）
  5. PyTorch搭建双向LSTM实现时间序列预测（负荷预测）
  6. PyTorch搭建LSTM实现多变量多步长时间序列预测（一）：直接多输出
  7. PyTorch搭建LSTM实现多变量多步长时间序列预测（二）：单步滚动预测
  8. PyTorch搭建LSTM实现多变量多步长时间序列预测（三）：多模型单步预测
  9. PyTorch搭建LSTM实现多变量多步长时间序列预测（四）：多模型滚动预测
  10. PyTorch搭建LSTM实现多变量多步长时间序列预测（五）：seq2seq
  11. PyTorch中实现LSTM多步长时间序列预测的几种方法总结（负荷预测）
  12. PyTorch-LSTM时间序列预测中如何预测真正的未来值
  13. PyTorch搭建LSTM实现多变量输入多变量输出时间序列预测（多任务学习）
  14. PyTorch搭建ANN实现时间序列预测（风速预测）
  15. PyTorch搭建CNN实现时间序列预测（风速预测）
  16. PyTorch搭建CNN-LSTM混合模型实现多变量多步长时间序列预测（负荷预测）
  17. PyTorch搭建Transformer实现多变量多步长时间序列预测（负荷预测）
  18. PyTorch时间序列预测系列文章总结（代码使用方法）
  19. TensorFlow搭建LSTM实现时间序列预测（负荷预测）
  20. TensorFlow搭建LSTM实现多变量时间序列预测（负荷预测）
  21. TensorFlow搭建双向LSTM实现时间序列预测（负荷预测）
  22. TensorFlow搭建LSTM实现多变量多步长时间序列预测（一）：直接多输出
  23. TensorFlow搭建LSTM实现多变量多步长时间序列预测（二）：单步滚动预测
  24. TensorFlow搭建LSTM实现多变量多步长时间序列预测（三）：多模型单步预测
  25. TensorFlow搭建LSTM实现多变量多步长时间序列预测（四）：多模型滚动预测
  26. TensorFlow搭建LSTM实现多变量多步长时间序列预测（五）：seq2seq
  27. TensorFlow搭建LSTM实现多变量输入多变量输出时间序列预测（多任务学习）
  28. TensorFlow搭建ANN实现时间序列预测（风速预测）
  29. TensorFlow搭建CNN实现时间序列预测（风速预测）
  30. TensorFlow搭建CNN-LSTM混合模型实现多变量多步长时间序列预测（负荷预测）
  31. PyG搭建图神经网络实现多变量输入多变量输出时间序列预测
  32. PyTorch搭建GNN-LSTM和LSTM-GNN模型实现多变量输入多变量输出时间序列预测
  33. PyG Temporal搭建STGCN实现多变量输入多变量输出时间序列预测
  34. 时序预测中Attention机制是否真的有效？盘点LSTM/RNN中24种Attention机制+效果对比
  35. 详解Transformer在时序预测中的Encoder和Decoder过程：以负荷预测为例
  36. (PyTorch)TCN和RNN/LSTM/GRU结合实现时间序列预测
  37. PyTorch搭建Informer实现长序列时间序列预测
  38. PyTorch搭建Autoformer实现长序列时间序列预测

II. 数据处理

数据集为某个地区某段时间内的电力负荷数据，除了负荷以外，还包括温度、湿度等信息。

本文中，我们根据前24个时刻的负荷以及该时刻的环境变量来预测下一时刻的负荷。最终得到了batch_size=B的数据集Dtr、Val以及Dte，Dtr为训练集，Val为验证集，Dte为测试集。

任意输出Dte中的一条数据：

[(tensor([[0.3513, 0.0000, 0.9091, 0.0000, 0.6667, 0.3023, 0.2439],
        [0.3333, 0.0000, 0.9091, 0.0435, 0.6667, 0.3023, 0.2439],
        [0.3396, 0.0000, 0.9091, 0.0870, 0.6667, 0.3023, 0.2439],
        [0.3427, 0.0000, 0.9091, 0.1304, 0.6667, 0.3023, 0.2439],
        [0.3838, 0.0000, 0.9091, 0.1739, 0.6667, 0.3023, 0.2439],
        [0.3700, 0.0000, 0.9091, 0.2174, 0.6667, 0.3023, 0.2439],
        [0.4288, 0.0000, 0.9091, 0.2609, 0.6667, 0.3023, 0.2439],
        [0.4474, 0.0000, 0.9091, 0.3043, 0.6667, 0.3023, 0.2439],
        [0.4406, 0.0000, 0.9091, 0.3478, 0.6667, 0.3023, 0.2439],
        [0.4657, 0.0000, 0.9091, 0.3913, 0.6667, 0.3023, 0.2439],
        [0.4540, 0.0000, 0.9091, 0.4348, 0.6667, 0.3023, 0.2439],
        [0.4939, 0.0000, 0.9091, 0.4783, 0.6667, 0.3023, 0.2439],
        [0.4328, 0.0000, 0.9091, 0.5217, 0.6667, 0.3023, 0.2439],
        [0.4238, 0.0000, 0.9091, 0.5652, 0.6667, 0.3023, 0.2439],
        [0.4779, 0.0000, 0.9091, 0.6087, 0.6667, 0.3023, 0.2439],
        [0.4591, 0.0000, 0.9091, 0.6522, 0.6667, 0.3023, 0.2439],
        [0.4651, 0.0000, 0.9091, 0.6957, 0.6667, 0.3023, 0.2439],
        [0.5102, 0.0000, 0.9091, 0.7391, 0.6667, 0.3023, 0.2439],
        [0.5067, 0.0000, 0.9091, 0.7826, 0.6667, 0.3023, 0.2439],
        [0.4635, 0.0000, 0.9091, 0.8261, 0.6667, 0.3023, 0.2439],
        [0.4224, 0.0000, 0.9091, 0.8696, 0.6667, 0.3023, 0.2439],
        [0.3796, 0.0000, 0.9091, 0.9130, 0.6667, 0.3023, 0.2439],
        [0.3292, 0.0000, 0.9091, 0.9565, 0.6667, 0.3023, 0.2439],
        [0.2940, 0.0000, 0.9091, 1.0000, 0.6667, 0.3023, 0.2439]]), tensor([0.3675]))]

每一行对应一个时刻点的负荷以及环境变量，此时input_size=7。

III. LSTM模型

这里采用了深入理解PyTorch中LSTM的输入和输出（从input输入到Linear输出）中的模型：

class LSTM(nn.Module):
    def __init__(self, input_size, hidden_size, num_layers, output_size, batch_size):
        super().__init__()
        self.input_size = input_size
        self.hidden_size = hidden_size
        self.num_layers = num_layers
        self.output_size = output_size
        self.num_directions = 1 # 单向LSTM
        self.batch_size = batch_size
        self.lstm = nn.LSTM(self.input_size, self.hidden_size, self.num_layers, batch_first=True)
        self.linear = nn.Linear(self.hidden_size, self.output_size)

    def forward(self, input_seq):
        batch_size, seq_len = input_seq.shape[0], input_seq.shape[1]
        h_0 = torch.randn(self.num_directions * self.num_layers, self.batch_size, self.hidden_size).to(device)
        c_0 = torch.randn(self.num_directions * self.num_layers, self.batch_size, self.hidden_size).to(device)
        # output(batch_size, seq_len, num_directions * hidden_size)
        output, _ = self.lstm(input_seq, (h_0, c_0)) # output(5, 30, 64)
        pred = self.linear(output)  # (5, 30, 1)
        pred = pred[:, -1, :]  # (5, 1)
        return pred

IV. 训练/测试

简单训练了30轮，MAPE为6.01%：
在这里插入图片描述

V. 源码及数据

后面将陆续公开~

Cyril_KI
关注
  • 39
    点赞
  • 踩
  • 296
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 89
    评论
专栏目录
lstm 多输入 多输出 负荷预测 pytorch 直接可跑 内含数据集
09-26
lstm 多输入 多输出 负荷预测 pytorch 直接可跑 有数据
PyTorch搭建LSTM实现多变量输入多变量输出时间序列预测（多任务学习）
KI的博客
06-12 2万+
PyTorch搭建LSTM实现多变量输入多变量输出时间序列预测
【实战经验】基于CNN-LSTM-Attention的多变量时间序列预测(Matlab语言)：0.联系三个都发 ，基于CNN-LSTM-Attention的多变量时间序列预测方法及Matlab实现
最新发布
PeDkTdmtIYA的博客
06-05 928
摘要：本文基于卷积神经网络 (CNN)、长短期记忆网络 (LSTM)和注意力机制构建了一个用于多变量时间序列预测的模型。然而，需要注意的是，模型仅提供了数据集精度的衡量方法，无法保证替换数据就一定能得到满意的结果。本文基于CNN-LSTM-Attention模型实现了多变量时间序列预测，并提供了注释清晰、适合新手小白使用的Matlab代码和测试数据。然而，需要注意的是，模型仅提供了数据集精度的衡量方法，无法保证替换数据就一定能得到满意的结果。我们提供了附赠的测试数据，并给出了输入数据的格式示例。
pytorch+LSTM实现使用单参数预测，以及多参数预测（代码注释版）
weixin_42596778的博客
11-04 2352
下面继续在method模块中，定义我们的类LSTM。其中lstm_out, self.hidden_cell = self.lstm(input_seq.view(len(input_seq), 1, -1), self.hidden_cell)相，其实就是pytorch的impose函数，他要接收一个三维的向量，因为LSTM的隐含层是需要接收三个参数的。# 定义LSTM模型# 构造函数，初始化网络使用# input_size：对应于输入中特征的数量。
基于pytorch的lstm时间回归预测（附全部代码）
neveranever的博客
12-29 1万+
首先说明作者是神经网络纯新手，虽然之前用过神经网络的代码，但基本上都是各种copy，只搞清楚了input_size和output_size，这两天因为工作需要要跑一个lstm的回归预测，在网上找的教程都不太清楚，对新手不是很友好，对新手友好的好像好多都是错的，自己也想了很久才想明白lstm回归预测到低是什么情况，跟大家分享一下，如果有错误也希望大家能指正。 首先是lstm的一张图，引自LSTM神经网络输入输出究竟是怎样的？，建议看本文章之前先找几个教程把lstm搞懂，我个人觉得lstm懂了的标志就是下面这
LSTM-多变量-单时间步-pytorch-负荷预测（多时间步采用滚动预测）
ww596520206的博客
09-26 3268
使用LSTM做负荷预测问题，数据共计456行，每一行3个特征，用过去N个时间段特征，预测未来第N+1个时间点的特征，数据格式如下，用00:00:00-04:00:00的[feature1，feature2，feature3]，预测第05:00:00的[feature1，feature2，feature3]。，可以使用循环的方式预测多个时间步。
人工智能(Pytorch)搭建模型2-LSTM网络实现简单案例
weixin_42878111的博客
03-15 1万+
LSTM网络是一种特殊的循环神经网络，它能够学习处理序列中的长期依赖性，而不会受到梯度消失或梯度爆炸的影响。LSTM中的关键组成部分是门控机制，它允许网络选择性地丢弃或保留信息。在训练过程中，LSTM网络通过反向传播算法自动调整门控单元的参数，使其能够更好地适应数据。PyTorch是一个基于Python的深度学习框架，提供了自动求导机制、强大的GPU支持和动态图等特性。PyTorch搭建神经网络的具体步骤都是按照以上模板进行搭建的，大家可以记住以上步骤。：决定从前一个时间步的记忆状态中删除哪些信息。
基于LSTM的seq2seq模型介绍以及相应的改进
yiyele的博客
06-26 9958
简介 DNN模型在语言识别等任务上具有强大的能力，主要是因为DNN可以在适当步骤中进行并行计算，尽管DNN很灵活并很有用，但是DNN只能用于固定维度的输入以及输出的任务中，并且输入以及输出已知。因此，Ilya sutskever .et提出了基于LSTM模型的端到端的架构。其中用一个LSTM作为encoder，得到一个基于时间序列的向量表示，另外，用另一个LSTM网络作为decoder，从向量中...
Pytorch实现LSTM时间序列预测
sinat_22510827的博客
05-10 3万+
原创 CodeInHand ...
【NLP】LSTM理解（Pytorch实现）
myaijarvis notebook
05-03 2028
【参考：详解LSTM - 知乎】 手动实现 【参考：30、PyTorch LSTM和LSTMP的原理及其手写复现_哔哩哔哩_bilibili】 单层单向 【参考：30 - LSTM,LSTMP手撸代码_取个名字真难呐的博客-CSDN博客】 import torch from torch import nn torch.manual_seed(0) # 设置随机种子，随机函数生成的结果会相同 batch_size = 2 # 批次大小 seq_len = 3 # 输入序列长度 input_siz
lstm多变量预测问题
04-16
利用LSTM做预测例子实现易懂，以了解，比较容易入门，。
多变量预测控制
06-03
GPC有一定帮助 想学习的 可以下载
Seq2Seq-PyTorch, 使用PyTorch序列序列序列.zip
09-17
Seq2Seq-PyTorch, 使用PyTorch序列序列序列 带PyTorch的序列序列的序列这个库包含了PyTorch中序列( Seq2Seq ) 模型序列的实现目前它具有以下实现：* Vanilla Sequence to Sequence models* Attention
基于pytorch的LSTM多变量多输出时间序列预测使用例
07-28
使用pytorch搭建的简单的LSTM多变量多输出时间序列预测的使用例。 生成了多个以sinx、cosx、tanx构成的序列，使用[i:i+50]的数据预测[i+51]的数据。x是步长为0.1的等差数列 作者初学时用来当说明文档使用，程序适合初学者捣鼓，注释写的很详细了
PyTorch搭建LSTM实现时间序列预测（负荷预测）
热门推荐
KI的博客
01-18 9万+
PyTorch搭建LSTM实现时间序列预测（负荷预测）
pytorch-实现LSTM实现多变量输入多步预测
ViolenceTemper的博客
04-27 852
多变量输入实现多步预测完整代码实战示例
【pytorch】LSTM神经网络
lijf2001的博客
07-27 2707
在处理时序数据，已经有和两个比较经典的网络。当然还有一种LSTM神经网络，长短期记忆神经网络。从发展历史来看，是现有LSTM再有GRU的，但是从复杂度来看，LSTM比GRU更加复杂。先来回忆一下GRU，其有两个门（更新门和重置门），有一个记录历史信息的向量Ht​。而LSTM就更加复杂了，无论是在门的数量上还是记录历史信息的向量上。...
PyTorch实现基于LSTM的多变量输入多变量输出的Seq2Seq预测（进阶版）
m0_68676807的博客
08-29 2255
这是用于训练的数据集Dataset_Custom(Dataset)，在实现预测的时候会再创建一个数据集。在这里就不给出了。
LSTM实现多变量时间序列预测(PyTorch版)
sybh的博客
10-04 799
为了训练数据，首先定义LSTM模型，然后再定义对应的损失函数，由于我们这里是风速预测，显然是个回归问题，所以采用回归问题常用的MESLoss()，如果可以的话，可以自定义损失函数，针对自己的项目需求定义对应的损失函数。对于优化器来讲，使用的也是目前常用的Adam优化器，对于新手来讲也可以多多尝试其它的优化器，比如SGDRMSprop等，对于优化器的选择。
PyTorch搭建LSTM实现多变量输入多变量输出时间序列预测
04-29
下面是一个使用PyTorch搭建LSTM进行多变量输入多变量输出时间序列预测的示例代码，其中包含数据预处理、模型搭建、训练和预测部分。 首先，假设我们有一个包含多个变量的时间序列数据集，每个变量都有多个时间步。我们需要将数据集分成训练集和测试集，并对数据进行标准化处理，这里使用scikit-learn库中的MinMaxScaler进行归一化操作。 ```python import numpy as np import pandas as pd from sklearn.preprocessing import MinMaxScaler # 读取数据 data = pd.read_csv('data.csv', header=None) data = data.values # 分割数据集 train_size = int(len(data) * 0.8) train_data = data[:train_size] test_data = data[train_size:] # 标准化数据 scaler = MinMaxScaler(feature_range=(0, 1)) train_data = scaler.fit_transform(train_data) test_data = scaler.transform(test_data) ``` 接下来，我们需要将数据转换为输入输出对的形式，其中每个样本的输入包含多个时间步的多个变量，输出为多个时间步的多个变量。我们可以定义一个函数来实现这个转换过程。 ```python def create_dataset(dataset, lookback=1, lookahead=1): X, Y = [], [] for i in range(len(dataset)-lookback-lookahead+1): X.append(dataset[i:(i+lookback), :]) Y.append(dataset[(i+lookback):(i+lookback+lookahead), :]) return np.array(X), np.array(Y) # 转换数据 lookback = 10 lookahead = 5 trainX, trainY = create_dataset(train_data, lookback, lookahead) testX, testY = create_dataset(test_data, lookback, lookahead) ``` 接下来，我们可以使用PyTorch搭建LSTM模型。这里使用两层LSTM，每层有64个隐藏单元。注意，输入和输出的形状需要与数据集的形状相匹配。 ```python import torch import torch.nn as nn class LSTM(nn.Module): def __init__(self, input_size, output_size, hidden_size, num_layers): super().__init__() self.lstm = nn.LSTM(input_size, hidden_size, num_layers, batch_first=True) self.fc = nn.Linear(hidden_size, output_size) def forward(self, x): out, _ = self.lstm(x) out = self.fc(out[:, -1, :]) return out # 定义模型 input_size = trainX.shape[-1] output_size = trainY.shape[-1] hidden_size = 64 num_layers = 2 model = LSTM(input_size, output_size, hidden_size, num_layers) ``` 然后，我们需要定义损失函数和优化器。这里使用均方误差损失函数和Adam优化器。 ```python criterion = nn.MSELoss() optimizer = torch.optim.Adam(model.parameters(), lr=0.001) ``` 现在，我们可以开始训练模型了。训练过程中，我们使用批量梯度下降来更新模型参数。在每个epoch结束时，我们对模型在测试集上的表现进行评估。 ```python # 训练模型 num_epochs = 100 batch_size = 64 train_loss = [] test_loss = [] for epoch in range(num_epochs): # 训练模型 model.train() for i in range(0, len(trainX), batch_size): optimizer.zero_grad() inputs = torch.tensor(trainX[i:i+batch_size]).float() targets = torch.tensor(trainY[i:i+batch_size]).float() outputs = model(inputs) loss = criterion(outputs, targets) loss.backward() optimizer.step() train_loss.append(loss.item()) # 测试模型 model.eval() with torch.no_grad(): inputs = torch.tensor(testX).float() targets = torch.tensor(testY).float() outputs = model(inputs) loss = criterion(outputs, targets) test_loss.append(loss.item()) # 打印损失 print('Epoch [{}/{}], Train Loss: {:.4f}, Test Loss: {:.4f}' .format(epoch+1, num_epochs, train_loss[-1], test_loss[-1])) ``` 最后，我们可以使用训练好的模型进行预测。注意，预测过程中需要将标准化后的输出重新还原为原始数据。 ```python # 预测模型 model.eval() with torch.no_grad(): inputs = torch.tensor(testX).float() outputs = model(inputs) preds = scaler.inverse_transform(outputs.numpy()) ``` 这就是使用PyTorch搭建LSTM进行多变量输入多变量输出时间序列预测的完整过程。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 89
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Cyril_KI

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值