Pytorch中的LSTM详细代码解读

最新推荐文章于 2024-07-25 10:37:06 发布
最新推荐文章于 2024-07-25 10:37:06 发布
阅读量2.3k 收藏 11
点赞数
分类专栏： pytorch 文章标签： pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_37150124/article/details/109594472
版权

小白撸代码

import torch
import torch.nn as nn
import torch.nn.functional as F
import torch.optim as optim

torch.manual_seed(1)

lstm = nn.LSTM(3,3) #输入dim = 3 输出dim = 3 格式是输入的是3列 隐藏层数也是3列
#print(lstm)
#输入
inputs = [torch.randn(1,3) for _ in range(5)] #序列长度为5  1行3列的张量；3列是LSTM输入的3列
#print(inputs)

#初始化隐层状态
hidden = (torch.randn(1,1,3),#;1大行2大列矩阵，每大列矩阵是1行3列
          torch.randn(1,1,3))
#print(hidden)
for i in inputs:
    #print(i ,"================")

    #print(i.view(1,1,-1),"+++++++++++")
          #一步一个元素地通过序列。
    #在每一步之后，隐藏层包含了隐藏的状态
    #输出   在view中1个矩阵1行-1是每个矩阵的所有元素
    #print(hidden,"~~~~~~~~~~~~~~~~~~")
    out, hidden = lstm(i.view(1,1,-1),hidden)
    #print(out,"$$$$$$$$$$$$$$$$$$$$$")

#view 返回一个有相同数据但大小不同的tensor。
#返回的tensor必须与原tensor相同的数据和相同数目的元素，但可以有不同的大小。
inputs = torch.cat(inputs).view(len(inputs),1,-1)
#print(len(inputs))
hidden = (torch.randn(1,1,3),torch.randn(1,1,3))#清理hidden状态
#输出
out,hidden =lstm(inputs ,hidden)
#print(out)
#print(hidden)
求学路上的小白
关注
专栏目录
【Pytorch教程】：过拟合 (Overfitting)
nanke_4869的博客
02-02 4061
Pytorch教程目录 Torch and Numpy 变量 (Variable) 激励函数 关系拟合（回归） 区分类型 (分类) 快速搭建法 批训练 加速神经网络训练 Optimizer优化器 卷积神经网络 CNN 卷积神经网络（RNN、LSTM） RNN 循环神经网络 (分类) RNN 循环神经网络 (回归) 自编码 (Autoencoder) DQN 强化学习 生成对抗网络 (GAN) 为什么 Torch 是动态的 GPU 加速运算 什么是过拟合 (Overfitting) 目录Pytorch教程目
基于pytorch搭建多特征LSTM时间序列预测代码详细解读（附完整代码）
热门推荐
hardworking_T的博客
09-03 3万+
基于pytorch搭建多特征LSTM时间序列进行预测，对代码编写流程进行详细解读
PyTorch LSTM深度解析：从零开始理解序列模型
DOUZHAOPENG1113的博客
06-13 51
最近在看RNN模型，想阅读一下别人关于LSTM的开源代码，于是决定先去pytorch的官网看一下示例教程，谁知我连示例教程都看得很懵，以为理论懂了看代码实现应该很快；于是在网上看了各位大神关于LSTM的分析解读，结合自己的理解勉强理解了pytorch的LSTM模块；本文的目的主要是记录下自己的理解，方便日后查阅。这一句代码初始化LSTM模块的一些基本属性；LSTM模块初始化的时候有如下参数：在官方给的教程中，3对应input_size，另一个3对应hidden_size；
LSTM时间序列预测的原理以及代码实现
最新发布
cdyyyyyyy的博客
07-25 2253
循环神经网络（Recurrent Neural Network，RNN）是一类用于处理序列数据的神经网络，在自然语言处理、时间序列预测、语音识别等领域中得到了广泛应用。与传统的前馈神经网络不同，RNN具有“记忆”能力。RNN通过在网络中引入循环连接，使得网络可以利用先前的输入信息来影响当前的输出。这使得RNN非常适合处理具有时间依赖性或顺序性的任务。下面是RNN的简单结构图：输入层：接收输入数据，并将其传递给隐藏层。输入不仅仅是静态的，还包含着序列中的历史信息。隐藏层：捕捉时序依赖性。
pytorch lstm时序预测代码
lunhuicnm的博客
11-09 527
【代码】pytorch lstm时序预测代码。
深度学习&PyTorch 之 LSTM-中文多分类
Andy_shenzl的博客
03-15 1062
定义LSTM模型else:具体解析可参考RNN代码解析唯一的不同这里介绍下，就是RNN没有cell，所以这里需要加上。在模型中，这行代码是对RNN层的最后一个时间步的隐藏状态应用dropout正则化。hidden: 这是RNN层的输出之一，表示隐藏状态。对于每个时间步，RNN会产生一个隐藏状态。如果RNN是多层（n_layers大于1），那么每个时间步的隐藏状态会经过所有的层。因此，hidden的形状将是，其中是1（单向）或2（双向）。: 这里，-1索引表示选择最后一个RNN层的输出。
PyTorch实践项目：LSTM 微博恶意评论多分类
大面鱼的博客
03-11 834
每个评论列表的大小# 词汇表的大小加上 1# 总共有6个类别# LSTM 层数# 循环次数# 将输入的文本进行词嵌入表示的操作# LSTM 的输入维度就是 embedding_size，即 300。batch_first=True 表示将 batch_size 设置成第一个维度。bidirectional=True 表示设置 LSTM 模型为双向的# 全连接层，其中 output_size 就是类别数量，即 6'''batch_size：一组数据有多少个，即 64。
pytorch实现用CNN和LSTM对文本进行分类方式
09-18
今天小编就为大家分享一篇pytorch实现用CNN和LSTM对文本进行分类方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
Pytorch LSTM 代码解读及自定义双向 LSTM 算子
生命在于折腾！
07-13 4328
Pytorch LSTM 代码解读及自定义双向 LSTM 算子 1. 理论 关于 LSTM 的理论部分可以参考 Paper Long Short-Term Memory Based Recurrent Neural Network Architectures for Large Vocabulary Speech Recognition 解析 Understanding LSTM Networks 人人都能看懂的LSTM Pytorch LSTM 算子 LSTM 文档 2. 源代码 python
基于pytorch搭建多特征CNN-LSTM时间序列预测代码详细解读（附完整代码）
hardworking_T的博客
10-14 2万+
除了LSTM神经网络，一维CNN神经网络也是处理时间系列预测和分类的一种重要工具，本文不从理论上赘述CNN处理时间序列，仅通过代码复现向大家展示CNN+LSTM是如何具体的运作的。另外，数据集和数据预处理仍沿用之前文章基于pytorch搭建多特征LSTM时间序列预测代码详细解读（附完整代码），本文不再赘述其细节，主要复现网络结构的变动。cnn-lstm主要是维度和输入限制，建议大家在草稿纸上画一画，会明了很多完整代码见我的GitHub。
基于pytorch的TPA-LSTM神经网络
11-01
TPA会选择相关变量加权利用卷积捕获可变的信号模式。 注意力加权对bilstm的隐含层加权求和。出自论文Temporal Pattern Attention for Multivariate Time Series Forecasting
Python-利用LSTM进行多标签时间序列分类
08-11
利用LSTM进行多标签时间序列分类
PyTorch tutorial - BiLSTM CRF 代码解析
Ono_online的博客
03-25 1062
本文主要对PyTorch的tutorial之一，Advanced: Making Dynamic Decisions and the Bi-LSTM CRF，进行详细解读，行文顺序上，首先说明一下前面几个辅助函数的作用，然后主体按照Run training的运行顺序进行。(以下删除了原代码注释，可回tutorial中查看) def argmax(vec): _, idx = torch.m...
基于PyTorch使用LSTM实现新闻文本分类任务
weixin_55982578的博客
09-10 1926
基于PyTorch使用LSTM实现新闻文本分类任务的概况如下：任务描述：新闻文本分类是一种常见的自然语言处理任务，旨在将新闻文章分为不同的类别，如政治、体育、科技等。方法：使用深度学习模型中的LSTM（长短时记忆网络）来处理文本序列数据。LSTM能够捕获文本中的长期依赖关系，适应不定长文本，自动提取特征，适应多类别分类，并在大型数据集上表现出色。基于免费的Google colab
pytorch 学习 -LSTM
qq_37972486的博客
04-15 437
RNN的类别： 循环神经网络主要应用于序列数据的处理，因输入与输出数据之间有时间上的关联性，所以在常规神经网络的基础上，加上了时间维度上的关联性，也就是有了循环神经网络。因此对于循环神经网络而言，它能够记录很长时间的历史信息，即使在某一时刻有相同的输入，但由于历史信息不同，也会得到不同的输出，这也是循环神经网络相比于常规网络的不同之处。 根据输入与输出之间的对应关系，可以将循环神经网络分为以下五大...
torch.nn.LSTM详细解读代码
qq_37150124的博客
11-09 1301
小白代码解读 import torch.nn as nn import torch from torch.autograd import Variable lstm = nn.LSTM(10,20,2) # (1)输入的特征维度10列 (2)隐状态的特征维度20列 (3)num_layers = 2层 # print(lstm) # print("***************************************************") # 输入 input = Variable(torc
《PyTorch深度学习实践》P9多分类问题（softmax）
xd0dx的博客
02-24 708
softmax：处理多分类 ①概率和为1 ②各个概率都＞=0 softmax例子： softmax对应的损失函数： code： import numpy as np y = np.array([1, 0, 0]) z = np.array([0.2, 0.1, -0.1]) y_pred = np.exp(z) / np.exp(z).sum() loss = (- y * np.log(y_pred)).sum() print(loss) 效果图： torch里面有：交叉熵损失，包含了softma
使用python3.7 torch 写一个LSTM多对一模型
weixin_42589700的博客
02-12 175
好的，下面是使用Python 3.7 和 PyTorch 实现一个LSTM多对一模型的代码： import torch import torch.nn as nn class LSTM(nn.Module): def __init__(self, input_size, hidden_size, num_layers, output_size): super(LSTM, ...
Pytorch中的nn.LSTM
weixin_40252835的博客
07-08 585
Pytorch中LSTM总共有7个参数，前面3个是必须输入的 input_size – The number of expected features in the input x hidden_size – The number of features in the hidden state h num_layers – Number of recurrent layers. E.g., setting num_layers=2 would mean stacking two LSTMs together
pytorch中LSTM代码
10-20
在PyTorch中实现LSTM模型的代码通常可以分为以下几个步骤： 1.导入必要的库和模块，例如torch、nn、optim等。 2.准备数据，包括读取数据、处理数据、划分数据集等。 3.定义模型，包括输入层、LSTM层、输出层等组成的网络结构。 4.定义损失函数和优化器，常用的损失函数有MSE、MAE等，优化器有SGD、Adam等。 5.训练模型，包括迭代训练、计算损失、反向传播等。 6.评估模型，包括计算模型在测试集上的精度、绘制损失曲线等。 这是一个简单的示例代码： ```python import torch import torch.nn as nn import torch.optim as optim # 准备数据 data = ... target = ... # 划分数据集 train_data = ... train_target = ... test_data = ... test_target = ... # 定义模型 class LSTM(nn.Module): def __init__(self, input_dim, hidden_dim, output_dim, num_layers): super(LSTM, self).__init__() self.hidden_dim = hidden_dim self.num_layers = num_layers self.lstm = nn.LSTM(input_dim, hidden_dim, num_layers, batch_first=True) self.fc = nn.Linear(hidden_dim, output_dim) def forward(self, x): h0 = torch.zeros(self.num_layers, x.size(0), self.hidden_dim).requires_grad_() c0 = torch.zeros(self.num_layers, x.size(0), self.hidden_dim).requires_grad_() out, (hn, cn) = self.lstm(x, (h0.detach(), c0.detach())) out = self.fc(out[:, -1, :]) return out # 初始化模型 input_dim = ... hidden_dim = ... output_dim = ... num_layers = ... model = LSTM(input_dim, hidden_dim, output_dim, num_layers) # 定义损失函数和优化器 criterion = nn.MSELoss() optimizer = optim.Adam(model.parameters(), lr=0.001) # 训练模型 for epoch in range(num_epochs): # 前向传播 output = model(train_data) loss = criterion(output, train_target) # 反向传播 optimizer.zero_grad() loss.backward() optimizer.step() if epoch % 100 == 0: print('Epoch [{}/{}], Loss: {:.4f}'.format(epoch+1, num_epochs, loss.item())) # 评估模型 with torch.no_grad(): test_output = model(test_data) test_loss = criterion(test_output, test_target) print('Test Loss: {:.4f}'.format(test_loss.item())) ``` --相关问题--:
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值