记录PyTorch图像处理的归一化和标准化问题和tensor.sub_和tensor.sub方法

最新推荐文章于 2024-05-17 05:33:42 发布
最新推荐文章于 2024-05-17 05:33:42 发布
阅读量2.6k 收藏 1
点赞数 2
文章标签： pytorch 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_25392183/article/details/121038334
版权

记录PyTorch图像处理的归一化和标准化问题和tensor.sub_和tensor.sub方法


起因是写图像数据处理的时候需要给图片加噪声，在归一化的时候研究了一下transforms.nornalize()方法，核心是这个 

tensor.sub_(mean).div_(std)

手册里sub_()方法和sub()方法是一样的，给出的是
out i = input i − alpha × others i \text{out}_i =\text{input}_i-\text{alpha}\times\text{others}_i outi​=inputi​−alpha×othersi​
这么分析的话normalize方法其实是单样本的Z-Score标准化

再谈到torch的归一化，其实在transforms方法的ToTensor方法中已经内嵌了归一化的过程，ToTensor方法的注释如下

'''Convert a ``PIL Image`` or ``numpy.ndarray`` to tensor. This transform does not support torchscript.

Converts a PIL Image or numpy.ndarray (H x W x C) in the range [0, 255] to a torch.FloatTensor of shape (C x H x W) in the range [0.0, 1.0]'''
logQAQ
关注
  • 2
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
解决tensor.sub_(mean).div_(std)RuntimeError: output with shape [1, 28, 28] doesn‘t match the broadcas
沉迷单车的追风少年
12-18 1574
项目场景： MNIST数据集 GANs生成 问题描述： 完整报错： Traceback (most recent call last): File "pytorch_MNIST_cGAN.py", line 229, in <module> for x_, y_ in train_loader: File "/root/anaconda3/envs/dpm-pc-gen/lib/python3.7/site-packages/torch/utils/data/datal
torch 归一化，momentum用法详解
jacke121的专栏
09-18 7716
torch 有两个地方用Momentum动量，冲量， 一，优化器中的Momentum 主要是在训练网络时，最开始会对网络进行权值初始化，但是这个初始化不可能是最合适的；因此可能就会出现损失函数在训练的过程中出现局部最小值的情况，而没有达到全局最优的状态。 momentum的出现可以在一定程度上解决这个问题。动量来源于物理学，当momentum越大时，转换为势能的能量就越大，就越有可能摆脱局部凹区域，从而进入全局凹区域。momentum主要是用于权值优化。 2.bn层中的Momentum pyt
Tensor的基本操作
沉梦昂志
01-21 334
Tensor操作张量操作张量的拼接和切分切分张量的索引张量变换数学运算实现线性回归 张量操作 张量的拼接和切分 cat不会扩张维度，stack会在新创建的维度上拼接 切分 张量的索引 索引要为torch.long 通过.ge.gt的方法生成布尔张量 张量变换 -1表明该维的变换根据其他维度 数学运算 实现线性回归 import torch import matplotlib.p...
torch-mnist-batch-normalization:MNIST数据集上的Torch7批处理归一化示例
05-21
火炬mnist批处理规范化 MNIST数据集上的Torch7批处理归一化示例 我使用torch7来测试“批量归一化”文章第4.1节中的技术。 主要区别在于数据，我使用的MNIST数据集的图片尺寸为32x32px。 批处理规范化：克里斯汀·塞格迪（Christian Szegedy），谢尔盖·艾菲（Sergey Ioffe），通过减少内部协变量偏移来加速深层网络训练（2015年2月11日）
PyTorch数据归一化处理：transforms
最新发布
2401_85013004的博客
05-17 856
torchvision.transforms:常用的数据预处理方法，提升泛化能力，包括：数据中心化、数据标准化、缩放、裁剪、旋转、翻转、填充、噪声添加、灰度变换、线性变换、仿射变换、亮度、饱和度及对比度变换等数据增强又称为数据增广，数据扩增，它是对训练集进行变换，使训练集更丰富，从而让模型更具泛化能力。
torch归一化
cobracanary的博客
10-19 6624
做GNN的人会常常需要将矩阵进行行归一化，之前一直是自己手动实现归一化，现在发现一个很好用的API：torch.nn.functional.normalize() 看看官方文档： 实例： >>> x tensor([[ 1, 2, 34], [ 4, 5, 6]]) >>> F.normalize(x.float(),p=1,dim=1) tensor([[0.0270, 0.0541, 0.9189], [0.2667, 0.3
python里addsub_Python tensor.sub方法代码示例
weixin_39914107的博客
12-10 279
# 需要导入模块: from theano import tensor [as 别名]# 或者: from theano.tensor import sub [as 别名]def test_local_useless_inc_subtensor():x = tensor.matrix('x')y = tensor.matrix('y')mode = compile.get_default_mode...
Pytorch归一化(MinMaxScaler、零均值归一化)
热门推荐
飞机火车巴雷特的博客
10-23 3万+
pytorch实现两种归一化：minmaxscaler、零均值归一化
pytorch 归一化与反归一化实例
12-23
ToTensor中就有转到0-1之间了。 # -*- coding:utf-8 -*- import time import torch from torchvision import transforms import cv2 transform_val_list = [ # transforms.Resize(size=(160, 160), interpolation=...
pytorch方法测试详解——归一化(BatchNorm2d)
12-23
测试代码： import torch ...print("归一化权重：") print(m.weight) print("归一化的偏重：") print(m.bias) print("归一化的输出：") print(output) print("输出的尺度：") print(output.size()) # i =
pytorch classification的.py_pytorch_pytorch分类_MNISTpytorch_
10-03
通常我们会对数据进行归一化和随机翻转、裁剪等操作以增强模型的泛化能力： ```python transform = transforms.Compose([ transforms.Resize(32), transforms.RandomHorizontalFlip(), transforms.ToTensor(), ...
d2lzh_pytorch_深度学习_pytorch_d2lzh_pytorch下载_deeplearning_d2lzh_py
09-11
PyTorch提供了一系列工具，如`torchvision`，用于图像数据的加载、调整大小、归一化等操作，确保数据能够适应模型的需求。 5. **模型构建** 使用PyTorch构建神经网络模型非常直观，通过定义`nn.Module`子类，可以...
Pytorch 实现权重初始化
09-18
对于批量归一化层 `nn.BatchNorm2d`，可以将权重初始化为 1，偏置初始化为 0。 以下是一个简单的例子，展示了如何在 `__init__()` 函数中初始化权重： ```python class Net(nn.Module): def __init__(self): ...
chatgpt赋能python：PyTorchTensor归一化：理解、应用及实现
turensu的博客
07-01 1478
在本文中，我们介绍了在机器学习和深度学习中进行数据预处理的重要性，并且给出了 PyTorch 中的归一化函数和常见的归一化方法。我们还通过一个实际的例子展示了如何在 PyTorch 中实现归一化。无论是在数据预处理、特征选择还是模型训练中，数据的归一化都是非常重要的，希望本文可以帮助读者更好地理解和应用数据归一化。本文由chatgpt生成，文章没有在chatgpt生成的基础上进行任何的修改。以上只是chatgpt能力的冰山一角。作为通用的Aigc大模型，只是展现它原本的实力。对于颠覆工作方式的。
学习pytorch中归一化transforms.Normalize
qq_36998053的博客
01-05 1万+
torchvison:计算机视觉工具包 包含 torchvison.transforms(常用的图像预处理方法)； torchvision.datasets(常用数据集的dataset实现，MNIST,CIFAR-10,ImageNet等)； torchvison.model(常用的模型预训练，AlexNet,VGG,ResNet,GoogleNet等)。 torchvision.transforms 常用的数据预处理方法，提升泛化能力。包括：数据中心化、数据标准化、缩放、裁剪、旋转、填充、噪声添
Pytorch归一化方法讲解与实战：BatchNormalization、LayerNormalization、nn.BatchNorm1d和LayerNorm()和F.normalize()
qq_43391414的博客
10-16 1万+
文章目录LayerNormalizationBatchNormalization 这些Normalization的作用都是让数据保持一个比较稳定的分布，从而加速收敛。Batch Normalization 的处理对象是对一批样本， Layer Normalization 的处理对象是单个样本。不过，他们到底指的是什么呢？有的时候，讲解是多余的，实战一下，你就懂了： talk is cheap,show me the code import torch import torch.nn as nn Laye
torch.sub()与torch.sub_()函数用法
qq_40641713的博客
04-13 7209
介绍了pytorch中的torch.sub_()与torch.sub()函数的功能，以及两者的联系与区别
pytorch中的归一化：BatchNorm、LayerNorm 和 GroupNorm
十年以上架构设计经验，专注于软件架构和人工智能领域，对机器视觉、NLP、音视频等领域都有涉猎
12-10 2448
训练深度神经网络是一项具有挑战性的任务。 多年来，研究人员提出了不同的方法来加速和稳定学习过程。 归一化是一种被证明在这方面非常有效的技术。
【Pytorch基础知识】数据的归一化和反归一化
Thebest_jack的博客
11-09 1万+
搞清数据的归一化和反归一化，快速掌握将图片转为tensor进行系列操作后，再转为图片
pytorch中的归一化和逆归一化如何实现的
10-12
在PyTorch中，归一化和逆归一化可以通过torchvision.transforms.Normalize和torchvision.transforms.Normalize.inverse方法实现。 归一化的实现方法如下： ```python import torchvision.transforms as transforms ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值