Pytorch关键知识点学习笔记

最新推荐文章于 2024-06-26 12:00:51 发布
最新推荐文章于 2024-06-26 12:00:51 发布
阅读量606 收藏 1
点赞数
分类专栏： 深度学习专栏 人工智能学习专栏 文章标签： 深度学习 神经网络 pytorch Powered by 金山文档
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Runnymmede/article/details/128926335
版权
本文详细介绍了PyTorch中的模型搭建流程，包括数据加载、模型、损失函数和优化器的设置。讨论了Function与Module的区别，DataLoader、Dataset和Sampler的使用，以及Tensor与numpy的转换。此外，还涵盖了ModuleList与Sequential的不同，训练时GPU显存管理策略，以及ReLU、梯度累计等关键知识点。
摘要由CSDN通过智能技术生成

模型搭建流程

模型搭建流程

  1. 加载数据。train_loader = torch.utils.data.Dataloader()

  1. 构建模型。model = torch.nn.module

  1. 构建损失。loss = torch.nn.CrossEntropyLoss()

  1. 构建优化器。optimizer = torch.optim.Adam()

    了解本专栏 订阅专栏 解锁全文 超级会员免费看
    FL1623863121
    关注
    专栏目录
    订阅专栏
    pytorch关键技术
    东方佑
    05-15 347
    https://www.jianshu.com/p/7a7d45b8e0ee
    使用pytorch最关键的几个点
    热门推荐
    东方佑
    06-16 15万+
    第一个就是pytorch的可视化模块 visdom 使用之前需要安装 使用pip3 install visdom import torch import torch.nn as nn import torch.nn.functional as F import torch.optim as optim from torchvision import datasets, transfo...
    PIL、cv2、numpy，和pytorch(torch)之间的转换
    最新发布
    ytusdc的博客
    06-26 502
    如果你不想让OpenCV这样做，即想要保持读取的图像为单通道，可以使用以下方法：cv2.IMREAD_UNCHANGED标志。如果图像本来是单通道的，那么读取后它仍然是单通道的。如果图像本来有多个通道，那读取后会是多通道。在OpenCV imread函数图片读取出来默认为3通道，当你读取单通道（灰度图）图像时，通道数会自动扩展为三通道。Opecv会将单通道的图复制3次转化为三通道， 因此三个通道的颜色值是相同的。默认模式下PIL会自动检测图像模式，如果是灰度图则为'L'模式，灰度图读出的结果就是单通道。
    pytorch定义卷积层，输入是1，输出是32，卷积核大小为8,紧接着一个BN层
    weixin_35756373的博客
    01-02 246
    在 PyTorch 中，可以使用 nn.Conv2d 类来定义卷积层。示例代码如下： import torch import torch.nn as nn # 定义卷积层，输入通道数为1，输出通道数为32，卷积核大小为8 conv = nn.Conv2d(1, 32, kernel_size=8) # 定义 Batch Normalization 层 bn = nn.BatchNorm2d(3...
    Pytorch使用Scaler时关于scheduler和optimizer顺序的报错：`optimizer.step()` before `lr_scheduler.step()`
    ysngki的博客
    02-24 1192
    解决了pytorch使用混合精度时，optimizer和scheduler顺序不对导致的报错问题。
    PyTorch学习笔记（六）——Sequential类、参数管理与GPU
    ⚡
    05-10 4637
    目录一、torch.nn.Sequential 一、torch.nn.Sequential Sequential 本质是一个模块（即 Module），根据Pytorch中的约定，模块中可以继续添加模块。这意味着我们可以在 Sequential 中添加其它的模块（当然也可以添加其他的 Sequential）。添加完成后，Sequential 会将这些模块组成一个流水线，输入将依次通过这些模块得到一个输出，如下图所示： ...
    PyTorch 知识点总结
    qq_18310041的博客
    07-08 1131
    Tensor Tensor的基本数据类型有五种： 32位浮点型：torch.FloatTensor。 (默认) 64位整型：torch.LongTensor。 32位整型：torch.IntTensor。 16位整型：torch.ShortTensor。 64位浮点型：torch.DoubleTensor。 除以上数字类型外，还有 byte和chart型 基本操作如下： # torch...
    PyTorch基础知识学习记录
    Hedwig成长之路
    08-16 500
    pytorch组队学习笔记
    深度学习pytorch2.0教材学习笔记，以及自己的一点扩充
    05-19
    本资料包包含了基于PyTorch 2.0的深度学习教材学习笔记，以及作者的个人扩充内容。这些笔记以Jupyter Notebook的形式呈现，便于读者交互式地学习和实践。每个"day"的文件分别代表作者一天的学习内容，从基础概念到...
    Python-一些关于pytorch深入学习的笔记
    08-11
    在“Python-一些关于pytorch深入学习的笔记”中，我们将重点关注以下几个关键知识点： 1. **动态计算图**：PyTorch的一大特点是支持动态计算图，与TensorFlow等静态计算图框架不同，这使得编写和调试神经网络模型...
    PyTorch学习笔记之回归实战
    09-20
    下面详细解析文章中涉及的关键知识点。 1. 导入必要的包与生成伪数据 在进行机器学习任务时，首先需要导入PyTorch相关的库，并生成用于模型训练的伪数据。这里的伪数据是指随机生成的数据，以便模拟实际的输入输出...
    动手学深度学习（Pytorch版）知识点笔记（3）
    m0_53703555的博客
    06-29 391
    三、线性回归 构建简单的人工数据集 %matplotlib inline import torch from IPython import display from matplotlib import pyplot as plt import numpy as np import random num_inputs = 2 #输入特征数为2 num_examples = 1000 #训练数据集样本数 true_w = [2, -3.4] #使⽤线性回归模型真实权重 true_b = 4.2 #
    pytorch中的tensor实现数据降维以及通道数转换
    yangfaner2021的博客
    11-16 7784
    上例中torch.narrow(x,0,2,3)，因x为5X6的二维tensor，由两个维度[0,1]，0表示第一维,横向，1表示第二维，纵向；且第一维通道数为5，第二维通道数为6。第三个变量为所选维度中的第几个通道为起点。如果在深度学习中图像处理中常遇到思维tensor，即x.shape=[9，3，256，256],3代表彩色图片RGB的三个通道数，如想实现降维操作，可将x的第二维的通道数3变为1，再使用x=torch.squeeze(x,dim=1)实现降维，降维后shape变为[9,256,256]
    主干网络的输入通道数从3改为1，同时保证预训练权重输出
    封梧鸣的博客
    06-25 3453
    让image net预训练权重在单通道数据上变得有意义
    GPU后将Tensor转换为numpy
    weixin_42152487的博客
    03-23 688
    【代码】GPU后将Tensor转换为numpy。
    Pytorch Tensor维度变换
    洪流之源
    06-25 6万+
    1. 改变shape torch.reshape()、torch.view()可以调整Tensor的shape，返回一个新shape的Tensor，torch.view()是老版本的实现，torch.reshape()是最新的实现，两者在功能上是一样的。 示例代码： import torch a = torch.rand(4, 1, 28, 28) print(a.shape) prin...
    numpy的转置，互换和拼接
    qq_43662627的博客
    08-26 660
    #转置 t=np.arange(27).reshape(3,3,3) #适合低维数组(二维以内) t.T # t.transpose() t.swapaxes(1,0)
    numpy下的轴交换transpose和 swapaxes的解读
    qq_35810838的博客
    11-21 2984
      法的参数是一个 由 轴编号（轴编号自0 开始） 序列构成的 元组。 开始时，数组的轴编号序列是默认从 0开始的 ：0，1，2，， 坐标的顺序也是这个轴编号的顺序，（0，1，2） 当使用 transpose 时候，轴编号的顺序变成了 （1，0，2） 说明 0号轴和1号轴的顺序变了， 那么，坐标的顺序也应该变了， 例如 元素 8： 开始时：根据轴顺序 0，1，2。他的坐标是 （1，0，0） ...
    龙良曲pytorch学习笔记
    05-12
    龙良曲是一位深度学习爱好者和资深程序员，他在学习深度学习和PyTorch的过程中整理了一系列的学习笔记，被称为“龙良曲PyTorch学习笔记”。这个学习笔记包含了从基础的张量操作到深度学习模型的实现等内容，适合初学...
    评论
    添加红包

    请填写红包祝福语或标题

    个

    红包个数最小为10个

    元

    红包金额最低5元

    当前余额3.43元 前往充值 >
    需支付：10.00元
    成就一亿技术人!
    领取后你会自动成为博主和红包主的粉丝 规则
    hope_wisdom
    发出的红包

    打赏作者

    FL1623863121

    你的鼓励将是我创作的最大动力

    ¥1 ¥2 ¥4 ¥6 ¥10 ¥20
    扫码支付：¥1
    获取中
    扫码支付

    您的余额不足，请更换扫码支付或充值

    打赏作者

    实付元
    使用余额支付
    点击重新获取
    扫码支付
    钱包余额 0

    抵扣说明：

    1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
    2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

    余额充值