PyTorch深度学习实践笔记#7 | 循环神经网络(基础篇)

最新推荐文章于 2024-02-21 17:32:39 发布
最新推荐文章于 2024-02-21 17:32:39 发布
阅读量296 收藏 1
点赞数
分类专栏： Pytorch学习笔记 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_49973750/article/details/117385372
版权

PyTorch深度学习实践笔记#7 | 循环神经网络(基础篇)

在这里插入图片描述

嗨，我是error。

我来记录PyTorch深度学习实践的笔记了，这会是一个系列，后面会慢慢更新。个人之前都是使用tensorflow进行深度学习实践，这是第一次学习Pytorch，若笔记有误欢迎提出纠正！课件采用自B站"刘二大人"老师的视频【传送门】

其实本质上来讲RNN也是线性计算与非线性计算，只不过是各种计算的独特组合方式而已，通过巧妙的结构设计来获取传统计算不能获取的数据之间相关联信息的反馈。同时，基于参数共享的思想，使得RNN在拥有较复杂的结构下也能保持相对小的参数量。

如下图所示是RNN的一个十分基础的模型，虽然看上去由很多RNN块组成，但实际上因为每一个RNN块内部的参数都是一样的，所以就可以简化为左边的循环模型，实际上在pytorch中RNN时也是通过for循环来实现的。
在这里插入图片描述

下图是一个很基础的RNN内部图展示，可以看出其本质还是我们之前学过的计算方法

在这里插入图片描述

下图为pytorch中RNNCell的参数，只需输入inputsize和hiddensize即可，而在调用的时候我们是一个一个batch传进去数据的。

在这里插入图片描述

下面是一个实例来讲解，其实在构建神经网络中最重要的莫过于维度的匹配，在RNN中亦是如此

最低0.47元/天 解锁文章
「已注销」
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Python for循环详解【附代码实例】
程序员小麦的博客
07-04 4万+
for循环：循环就是重复做某件事，for循环是python提供第二种循环机制（第一种是while循环），理论上for循环能做的事情，while循环都可以做。
《PyTorch 深度学习实践》第13讲 循环神经网络（高级篇）
m0_56676945的博客
04-27 1772
根据名字中的字符来预测其是哪个语言地区：如"Nasikovsky"这个名字一看就是念什么什么斯基，立即推！这个人很可能就是俄语地区。我们的模型结构：双向循环神经网络（Bidirectional Recurrent Neural Network，BiRNN）是一种常见的循环神经网络结构。与传统的循环神经网络只考虑历史时刻的信息不同，双向循环神经网络不仅考虑历史时刻的信息，还考虑未来时刻的信息。在双向循环神经网络中，输入序列可以被看作是由两个部分组成的：正向和反向。在正向部分中，输入数据从前往后进行处理，而在反
6月30日Python基础学习笔记——for 循环、嵌套循环、函数基本概念
Ashen_0nee的博客
06-30 413
本文为6月30日Python基础学习笔记，分为五个章节： - for 循环； - 嵌套循环：break 语句、continue 语句、循环代码优化； - 推导式创建序列，包括：列表推导式、字典推导式、生成器推导式（生成元组）； - 实操作业； - 函数的基本概念、函数的分类以及函数的定义和调用。...
PyTorch深度学习实践：循环神经网络(RNN)
大面鱼的博客
02-21 1337
同时，RNN Cell 这个线性层是共享的（即图中右半部分的所有 RNN Cell 都是同一个线性层，且这个线性层的权重会参与到所有的运算流程里）。则 xt 是一个形状为 input_size * 1 的矩阵，Wih 是一个形状为 hidden_size * input_size 的权重矩阵，bih 是一个形状为 hidden_size * 1 的偏置矩阵。正常说出的顺序就是我，爱，北京，天安门。但是如果打乱了这句话的顺序，我们可能就无法理解这句话是什么意思了，例如北京，爱，天安门，我的这种顺序。
python基础篇-for循环
热门推荐
清微的博客
02-07 3万+
for循环
Pytorch、NLP学习笔记
最新发布
03-14
《PyTorch与自然语言处理深度学习笔记》 在当今的AI领域，深度学习与自然语言处理（NLP）的结合已经成为研究与应用的热点。PyTorch作为一款灵活且强大的深度学习框架，深受广大研究人员和开发者的喜爱，特别是在NLP...
[深度学习]动手学深度学习笔记-6
01-20
在本篇【深度学习】动手学深度学习笔记-6中，我们主要关注的是Task-3，即循环神经网络（RNN）的进阶部分，特别是长短期记忆网络（LSTM）。LSTM是一种特殊的RNN变体，设计用于解决标准RNN在处理长序列数据时可能出现...
吴恩达老师深度学习笔记（中文版）
10-23
这篇笔记提供了对课程内容的详尽总结，适合那些希望深入了解或复习深度学习理论与实践的人群。 深度学习是机器学习的一个分支，其主要目标是模仿人脑神经网络的工作方式，通过构建多层的神经网络模型来处理复杂的...
学习笔记。包含python环境、python基础库、深度学习相关库、深度学习相关理论、其他常用知识。.zip
02-22
理解这些库的API，以及如何使用它们实现卷积神经网络（CNN）、循环神经网络（RNN）、长短时记忆（LSTM）等模型，是深度学习实践的关键。 **深度学习相关理论** 在理论层面，学习笔记可能涵盖了神经网络的基本原理，...
吴恩达深度学习DeepLearning.ai
07-24
再者，笔记深入探讨了循环神经网络（RNN）及其变种如长短时记忆网络（LSTM）。RNN在处理序列数据，如自然语言、音频和时间序列预测等方面具有优势，但存在梯度消失和爆炸的问题，LSTM通过门控机制有效解决了这些问题...
PyTorch 入门与实践（七）循环神经网络（RNN）
过招
08-03 1051
来自 B 站刘二大人的《PyTorch深度学习实践》P12 的学习笔记 RNN Cell 循环神经网络的隐藏层可以说都是线性层（Linear），由于它主要用于预测有前后关系的序列输入，所以它像斐波那契数列一样，后一次循环要输入前一次的输出，即，递归地求出下一次输出，故弹幕里有不少人称之为递归神经网络。 下图中的左边就是一层 RNN 的隐藏层，右边是它运行的过程（RNN Cell 一直是同一个，只是可视化运行的过程）。 指向下一次输入的红色箭头就是前一次的输出 hth_tht​，xtx_txt​ 是数据.
学习笔记：pytorch深度学习实践
weixin_43444329的博客
11-28 674
目录 1. 神经网络发展史 反向传播 2.线性模型 规则需要专业领域专家制定，规则越来越强大，难以维护。 新的挑战： 人工设置特征会有很多限制；SVM处理大数据集效果不好；越来越多的数据需要处理非结构化数据； 1. 神经网络发展史 反向传播 深度学习发展的原因：算法、数据、显卡 2.线性模型 问题假设： 测试集测试其泛化能力（对于为训练的特征也能很好的识别）。 数据集（训练集、测试集）---->问题：只有训练集，测...
《PyTorch深度学习实践》 学习笔记1
白白白
09-11 206
1、线性模型 x(hours) y(points) 1 2 2 4 3 6 4 ? 样本 Trainning loss error loss= Trainning Set 1.1、穷举求w使得损失最小 import numpy as np import matplotlib.pyplot as plt x_data = [1.0, 2.0, 3.0] y_data = [2.0, 4.0, 6.0] w...
【深度学习】 Pytorch笔记
myaijarvis notebook
11-29 828
标量，向量，矩阵与张量 1、标量 一个标量就是一个单独的数，一般用小写的的变量名称表示。 2、向量 一个向量就是一列数，这些数是有序排列的。通常会赋予向量粗体的小写名称。 我们可以把向量看作空间中的点，每个元素是不同的坐标轴上的坐标。 计算机中一般把向量视为行向量,shape为(n)，列向量为矩阵,shape为(n,1) 3、矩阵 矩阵是二维数组，其中的每一个元素被两个索引而非一个所确定。 我们通常会赋予矩阵粗体的大写变量名称，比如A。 4、张量 几何代数中定义的张量是基于向量和矩阵的推广，通俗一点理解的话
pytorch深度学习实践-循环神经网络0113
weixin_49747347的博客
01-13 990
B站 刘二大人：循环神经网络（基础篇） 目录 1、RNN概念 2、numLayers含义 3、RNN使用 4、利用RNN Cell训练hello转换到ohlol 5、Embedding编码方式 1、RNN概念 RNN Cell是线性层。 隐层是RNN Cell里线性层矩阵w的行数。 使用RNN Cell: import torch batch_size = 1 # 批处理大小 seq_len = 3 # 序列...
PyTorch深度学习实践笔记#8 | 循环神经网络(高级篇)
z
06-01 341
嗨，我是error。 我来记录PyTorch深度学习实践的笔记了，这会是这个系列的最后一篇文章。个人之前都是使用tensorflow进行深度学习实践，这是第一次学习Pytorch，若笔记有误欢迎提出纠正！课件采用自B站"刘二大人"老师的视频【传送门】 本节课的内容主要通过以下一个实例的讲解来讲述RNN一些更细节的部分。 实例的题目是要将输入一个名字，判断他是属于哪个国家的。 在日常生活中，我们也有这样的认识，根据一个人的姓名可以大致判断这个人的所属国籍。 相对于我们上一讲的n-n的RNN模型，我们这次.
Pytorch中RNN参数解释
极歌科技
01-19 1191
其实构建rnn的代码十分简单，但是实际上看了下csdn以及官方tutorial的解释都不是很详细，说的意思也不能够让人理解，让大家可能会造成一定误解，因此这里对rnn的参数做一个详细的解释： self.encoder = nn.RNN(input_size=300,hidden_size=128,dropout=0.5) 在这句代码当中： input_size:表示输入句子但当中单词的维度...
Pytorch深度学习实践 第十三讲 循环神经网络（高级篇）
m0_55519533的博客
07-24 1463
数据集：
《PyTorch深度学习实践》第十二课（循环神经网络RNN）
falldeep的算法世界
09-01 1357
要把inputs和labels重新view，-1为自适应inputs的格式为（seqlen， batchsize， inputsize）lables的格式为 （seqlen，1）seqlen其实就是循环次数。
PyTorch实现循环神经网络、LSTM和GRU：从基础到实践
循环神经网络（RNN）、长短期记忆网络（LSTM）和门控循环单元网络（GRU）都是 PyTorch 中重要的深度学习模型，能够学习序列数据的非线性特征，并且可以应用于自然语言处理、语音识别、图像识别等领域。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值