CNN+LSTM时序预测模型PyTorch代码实现

CNN+LSTM时序预测模型PyTorch代码实现

直接找了免费的,根据需要修改。
链接 https://github.com/ozancanozdemir/CNN-LSTM

import matplotlib.pyplot as plt
import pandas as pd
import torch
import torch.nn as nn
from torch.autograd import Variable
from sklearn.preprocessing import MinMaxScaler
import torch.nn.functional as F

class CNNLSTM(nn.Module):
    def __init__(self, input_size, output_size,hidden_size,num_layers):
        super(CNNLSTM, self).__init__()

        self.conv1 = nn.Conv1d(input_size, 64, kernel_size=2, stride=1)
        self.conv2 = nn.Conv1d(64,32,kernel_size=1, stride = 1, padding=1)
        self.batch1 =nn.BatchNorm1d(32)
        self.conv3 = nn.Conv1d(32,32,kernel_size=1, stride = 1, padding=1)
        self.batch2 =nn.BatchNorm1d(32)
        self.LSTM = nn.LSTM(input_size=5, hidden_size=hidden_size,
                            num_layers=num_layers, batch_first=True)
        self.fc1 = nn.Linear(32*hidden_size, output_size)
        #self.fc2 = nn.Linear(1, 1)
        

    def forward(self, x):
        #in_size1 = x.size(0)  # one batch
        x = F.selu(self.conv1(x))
        x = self.conv2(x)
        x = F.selu(self.batch1(x))
        x = self.conv3(x)
        x = F.selu(self.batch2(x))
        x, h = self.LSTM(x) 
        x = torch.reshape(x,(x.shape[0],x.shape[1]*x.shape[2]))
        #in_size1 = x.size(0)  # one batch
        #x = x.view(in_size1, -1)
        # flatten the tensor x[:, -1, :]
        x = self.fc1(x)
        output = torch.sigmoid(x)
        #output = self.fc2(x)

    
        
        return output


model = CNNLSTM(input_size, output_size,hidden_size, num_layers)
print(model)


num_epochs = 800
learning_rate = 0.01
criterion = torch.nn.MSELoss()    # mean-squared error for regression
optimizer = torch.optim.Adam(model.parameters(), lr=learning_rate)
#optimizer = torch.optim.SGD(lstm.parameters(), lr=learning_rate)
loss_list = []
# Train the model
for epoch in range(num_epochs):
    outputs = model(trainX)
    optimizer.zero_grad()
    
    # obtain the loss function
    loss = criterion(outputs, trainY)
    loss_list.append(loss)
    loss.backward()
    
    optimizer.step()
    if epoch % 100 == 0:
      print("Epoch: %d, loss: %1.5f" % (epoch, loss.item()))

掌握主要原理、方法,按自己需求修改不难吧。

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
CNN+LSTM+Attention+DNN是一种混合模型,用于短期日负荷曲线的预测。下面是对这个模型的介绍: 1. CNN(卷积神经网络):CNN主要用于提取输入数据的局部特征。它通过使用卷积层和池化层来捕捉数据中的空间关系和模式。在短期日负荷曲线预测中,CNN可以帮助模型学习数据中的时间序列特征。 2. LSTM(长短期记忆网络):LSTM是一种递归神经网络,用于处理序列数据。它能够捕捉数据中的长期依赖关系,并且在处理时间序列数据时表现出色。在短期日负荷曲线预测中,LSTM可以帮助模型学习数据中的时间依赖关系。 3. Attention(注意力机制):Attention机制用于加强模型对输入数据的关注程度。它通过计算每个输入元素的权重,将更多的注意力放在对预测结果有更大贡献的元素上。在短期日负荷曲线预测中,Attention机制可以帮助模型更好地理解数据中的重要特征。 4. DNN(全连接神经网络):DNN是一种常见的神经网络结构,由多个全连接层组成。它可以学习输入数据中的非线性关系,并进行复杂的特征提取和预测。在短期日负荷曲线预测中,DNN可以帮助模型进一步提取和组合特征,以获得更准确的预测结果。 综上所述,CNN+LSTM+Attention+DNN模型结合了卷积神经网络、长短期记忆网络、注意力机制和全连接神经网络的优势,可以更好地预测短期日负荷曲线。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值