PyTorch基础知识 | 安装 | 张量 | 自动求导

已于 2022-08-22 18:00:28 修改
阅读量680 收藏
点赞数
分类专栏： # PyTorch基础篇 文章标签： pytorch 深度学习 张量 自动求导
于 2022-08-12 16:29:52 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/liujiesxs/article/details/126273559
版权

文章目录

PyTorch基础篇：

一、PyTorch安装

  这里介绍两种安装方式：

1.基于whl安装

  https://download.pytorch.org/whl/torch_stable.html下载对应cuda版本或cpu，对应pytorch版本，对应python版本、对应电脑系统的文件，选择两个文件torch与torchvision，然后在对应的虚拟环境下pip安装即可。

2.官网命令行安装

  https://pytorch.org/get-started/previous-versions/选择对应cuda版本或cpu，对应pytorch版本，对应python版本、对应电脑系统的命令。每个版本都有两种安装方式：conda和wheel。网速快的话，wheel方式更快一点。

二、张量

1.张量的简介

  张量的核心就是一个数据容器。

张量维度 代表含义
0维张量 代表的是标量（数字）
1维张量 代表的是向量
2维张量 代表的是矩阵
3维张量 时间序列数据 、股价、 文本数据、单张彩色图片(RGB)
4维张量 多张彩色图片(RGB)
5维张量 视频

  多数情况下，它只包含数字。在PyTorch中， 张量(torch.Tensor) 是存储和变换数据的主要工具。Tensor 提供GPU计算和自动求梯度等更多功能。
  Tensor有8个属性：
在这里插入图片描述

  • data:被包装的Tensor
  • dtype:张量的数据类型，如torch.FloatTensor, torch.cuda.FloatTensor(表示数据放到了GPU上)
  • shape:张量的形状，如(64，3，224，224)
  • device:张量所在设备，GPU/CPU，是加速的关键
  • grad: data的梯度
  • grad_fn:创建Tensor的Function，是自动求导的关键
  • requires_grad:指示是否需要梯度
  • is_leaf:指示是否是叶子结点（张量)

2.创建tensor

  常见的构造Tensor的方法如下：

函数 功能
Tensor(sizes) 基础构造函数
tensor(data) data可以传入list, tuple,ndarray, scalar等，返回tensor
ones(sizes) 全1
zeros(sizes) 全0
eye(sizes) 对角为1，其余为0
arange(s,e,step) 从s到e，步长为step
linspace(s,e,steps) 从s到e，均匀分成step份
rand/randn(sizes) rand是[0,1)均匀分布；randn是服从N(0，1)的正态分布
normal(mean,std) 正态分布(均值为mean，标准差是std)
randperm(m) 随机排列
2.1 直接创建

  torch.tensor()：直接传入数据list, tuple,ndarray, scalar等，构造一个张量。

torch.tensor(data, dtype=None, device=None, requires_grad=False,pin_memory=False)

功能：从data创建tensor

  • data:数据，可以是list, tuple,ndarray, scalar
  • dtype:数据类型，默认与data的一致
  • device :所在设备，cuda/cpu
  • requires_grad:是否需要梯度
  • pin_memory:是否存于锁页内存（这与转换效率有关）

注意：torch.tensor创建得到的张量和原数据是不共享内存的，张量对应的变量是独立变量。

传入列表：

import torch
x = torch.tensor([5.5, 3]) 
print(x)

tensor([5.5000, 3.0000])

传入ndarry：

# tensor和numpy array之间的相互转换
import numpy as np

g = np.array([[1,2,3],[4,5,6]])
h = torch.tensor(g)
print(h)

tensor([[1, 2, 3],
        [4, 5, 6]], dtype=torch.int32)

  通过torch.from_numpy()创建张量

torch.from_numpy(ndarray)

注意事项：从torch.from_numpy创建的tensor与原ndarray共享内存，当修改其中一个的数据，另外一个也将会被改动。

import torch
import numpy as np
arr = np.ones((2, 2))
t1 = torch.from_numpy(arr)
print(arr)
print(t1)
t1 += 1
print(arr)
print(t1)

[[1. 1.]
 [1. 1.]]
tensor([[1., 1.],
        [1., 1.]], dtype=torch.float64)
[[2. 2.]
 [2. 2.]]
tensor([[2., 2.],
        [2., 2.]], dtype=torch.float64)
2.2 依据数值创建

  torch.zeros()：创建全0张量

torch.zeros(*size,
	out=None,dtype=None,
	layout=torch.strided,device=None,
	requires_grad=False)

功能:依size创建全0张量

  • size:张量的形状，如(3，3)、(3，224,224)
  • out:输出的张量
  • layout :内存中布局形式，有strided,sparse_coo等
  • device :所在设备，gpu/cpu
  • requires_grad:是否需要梯度

  torch.zeros_like()

torch.zeros_like( input,
	dtype=None,layout=None,device=None,
	requires_grad=False)

功能:依input形状创建全0张量

  • intput:创建与input同形状的全0张量
  • dtype:数据类型
  • layout :内存中布局形式

  torch.ones(),torch.ones_like()：创建全1张量

torch.ones( *size,
	out=None,dtype=None,
	layout=torch.strided,device=None,
	requires_grad=False)

功能:依size创建全1张量

torch.ones_like( input,
	dtype=None,layout=None,device=None,
	requires_grad=False)

功能:依input形状创建全1张量

  • size:张量的形状，如(3，3)、(3，224,224)
  • dtype:数据类型
  • layout :内存中布局形式
  • device :所在设备，gpu/cpu
  • requires_grad:是否需要梯度

  torch.full(),torch.full_like()：创建指定数据的张量

torch.full(size,
	fill_value,out=None,dtype=None,
	layout=torch.strided,device=None,
	requires_grad=False)

功能:依input形状创建指定数据的张量

  • size:张量的形状,如(3，3)
  • fill_value:张量的值
t2 = torch.full((3, 3), fill_value=10)
print(t2)

#tensor([[10., 10., 10.],
#        [10., 10., 10.],
#        [10., 10., 10.]])

  torch.arange()：创建等差张量

torch.arange(start=0,
	end,step=1,
	out=None,dtype=None,
	layout=torch.strided ,device=None,
	requires_grad=False)

功能:创建等差的1维张量
注意事项:数值区间为[start, end),start:数列起始值,end:数列“结束值”,step:数列公差，默认为1

t3 = torch.arange(2, 10, 2)
print(t3)
# tensor([2, 4, 6, 8])

  torch.linspace()：创建均分的1维张量

torch.linspace(start,
	end,
	steps=100,out=None,dtype=None,
	layout=torch.strided,device=None,
	requires_grad=False)

功能:创建均分的1维张量
注意:数值区间为[start, end]，start:数列起始值，end :数列结束值，steps:数列长度
  torch.logspace()：创建对数均分的1维张量

torch. logspace(start,end,
	steps=100,base=10.0,out=None,dtype=None,
	layout=torch.strided,device=None,
	requires_grad=False)

功能:创建对数均分的1维张量
注意:长度为steps，底为base；start:数列起始值，end :数列结束值，steps:数列长度，base :对数函数的底，默认为10
  torch.eye()：创建单位对角矩阵

torch.eye(n,
	m=None,out=None,dtype=None,
	layout=torch.strided,device=None,
	requires_grad=False)

功能:创建单位对角矩阵（2维张量)
注意:默认为方阵；n:矩阵行数，m:矩阵列数

2.3 依概率分布创建

  torch.normal()：生成正态分布的张量。

torch.normal(mean,
	std,
	out=None)

功能:生成正态分布（高斯分布)；mean :均值，std :标准差
四种模式:

  • mean为标量,std为标量
  • mean为标量，std为张量
  • mean为张量， std为标量
  • mean为张量，std为张量
# mean：张量 std: 张量
mean = torch.arange(1, 5, dtype=torch.float)
std = torch.arange(1, 5, dtype=torch.float)
t_normal = torch.normal(mean, std)
print("mean:{}\nstd:{}".format(mean, std))
print(t_normal)

# mean：标量 std: 标量
t_normal = torch.normal(0., 1., size=(4,))
print(t_normal)

# mean：张量 std: 标量
mean = torch.arange(1, 5, dtype=torch.float)
std = 1
t_normal = torch.normal(mean, std)
print("mean:{}\nstd:{}".format(mean, std))
print(t_normal)

mean:tensor([1., 2., 3., 4.])
std:tensor([1., 2., 3., 4.])
tensor([0.3966, 1.5400, 0.7993, 9.4299])
tensor([-0.0378, -0.6219, -0.1607, -1.1813])
mean:tensor([1., 2., 3., 4.
最低0.47元/天 解锁文章
幼稚的人呐
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
PyTorch基础知识
m0_60773218的博客
07-11 1365
PyTorch最基本的操作对象是Tensor（张量）。张量是一个数字容器，同时也是定义张量转换来生成新张量的一组规则。
【PyTorch基础】 -- 基础知识
qq_46656857的博客
03-11 544
PyTorch的学习笔记
PyTorch基础知识(超基础)
一名在读大学生，正在学习深度学习，会定期分享一些该领域内容。欢迎大家一起交流学习~
07-05 1993
PyTorch是在2017年1月由Facebook推出的。它是经典机器学习库Torch框架的一个端口，主要编程语言为python。PyTorch“曾经”的优点是动态图，现在的优点是开源代码和开源社区。PyTorch是一个年轻的框架。2017年1月28日，PyTorch 0.1版本正式发布，这是Facebook公司在机器学习和科学计算工具Torch的基础上，针对Python语言发布的全新的深度学习工具包。PyTorch类似NumPy，并且支持GPU，有着更高级而又易用的功能，可以用来快捷地构建和训练深度神经网
pytorch基础知识
m0_61899108的博客
02-11 1648
前言 本文转载于【pytorch基础知识】10分钟快速复习笔记|代码可直接运行|多实例 - 知乎 pytorch里的数据统称为张量（tensor），张量表示由⼀个数值组成的数组，这个数组可能有多个维度。具有一个轴的张量对应数学上的向量（vector）。 具有两个轴的张量对应数学上的矩阵（matrix）。具有两个轴以上的张量没有特殊的数学名称。 优点：张量（tensor）⽀持⾃动微分和GPU并行加速运算。 1 Tensor数据类型 32位浮点型：torch.float、torch.float32。浮点
Pytorch入门知识
m0_51446790的博客
11-26 818
pytorch入门笔记
PyTorch 基础 : 自动求导
qq_27009517的博客
12-21 237
深度学习的算法本质上是通过反向传播求导数，而PyTorch的autograd模块则实现了此功能。在Tensor上的所有操作，autograd都能为它们自动提供微分，避免了手动计算导数的复杂过程。 从0.4起, Variable 正式合并入Tensor, Variable 本来实现的自动微分功能，Tensor就能支持。读者还是可以使用Variable(tensor), 但是这个操作其实什么都没做。 所以，以后的代码建议直接使用Tensor，因为官方文档中已经将Variable设置成过期模块 要想使得Tenso
pytorch基础知识，入门学习
11-23
PyTorch的核心是Torch框架，它提供了一个张量计算系统和自动求导机制。`model.py`可能定义了自定义的神经网络模型，`model_state_dict.pkl`是模型的状态字典，用于存储和加载模型的权重和参数。`train.py`和`train_...
PyTorch & Tensor基础必学
05-03
在深入探讨PyTorch与Tensor的基础知识之前，我们先理解一下这两个概念的重要性。PyTorch是Facebook开源的一个深度学习框架，以其灵活性、易用性和强大的动态计算图功能而备受推崇。Tensor则是PyTorch中的核心数据...
pytorch深度学习代码合集
02-01
1. **基础知识**：如何创建、操作张量，以及如何使用自动求导进行模型训练。 2. **卷积神经网络（CNN）**：适用于图像分类任务，讲解如何构建和训练CNN模型。 3. **循环神经网络（RNN）**：用于处理序列数据，如NLP...
【PyTorch学习】PyTorch基础知识
12-21
目录 一、Pytorch介绍 1.1 什么是Pytorch 1.2 为何要使用Pytorch 1.3 配置Pytorch深度学习环境 二、Pytorch基础 2.1 Tensor（张量） 2.2 Variable（变量） 2.3 Dataset（数据集） 1. torch.utils.data.Dataset 2. torch.utils.data.TensorDataset 3. torch.utils.data.DataLoader 4. torchvision.datasets.ImageFolder 2.4 nn.Module（模组） 2.5 torch.optim（优化） 1. 一阶
pytorch深度学习技术及实践应用.pdf
02-14
一、 PyTorch基础知识 1.1 PyTorch介绍 PyTorch是一个开源的深度学习框架，由Facebook开源，具有动态计算图、自动求导、模块化设计等特点。 1.2 PyTorch安装与环境配置 PyTorch可以在多种平台上安装，包括Windows...
pytorch-tutorial-master
01-28
通过这个资源，我们可以深入理解PyTorch的核心概念和操作，包括张量运算、自动求导、构建神经网络模型、优化器、数据加载以及训练流程等。 1. **张量运算**：PyTorch的基础是张量，类似于numpy的多维数组，但可以在...
Pytorch入门基础知识（一）
qq_42681787的博客
10-26 2559
pytorch入门基础知识点
PyTorch基础知识（可入门）
weixin_43421371的博客
04-14 2506
PyTorch基础 核心是张量Tensor，一种多维数据的数学对象。 使用torch包创建张量，具体的很简单，不多说了。 （1）如果想用特定的值填充张量，可以使用 fill_() 方法。【任何带有下划线(_)的PyTorch方法都是指原位操作，即不用创建新对象就地修改内容】 （2）当使用torch.Tensor构造函数时，默认张量类型是torch.FloatTensor。可以在使用时进行类型转换 或 利用torch.tensor()中的dtype参数。 加减乘除操作都和其他类似。 torch.transp
Pytorch初学者系列-基础知识
逆流而上Mr李
07-13 1459
关注博主微信公众号：3分钟秒懂大数据，粉丝2w+; Hello 各位小伙伴，本章节，我将带领大家学习一下PyTorch的基础知识。对于没有机器学习、深度学习经验的小伙伴们，可以以此为跳板，掌握一点基础概念和知识点，为以后学习打基础，当然，对于有使用经验的，就当温故而知新了。 PyTorch是一个开源的Python机器学习库，基于Torch，用于自然语言处理等应用程序。 2017年1月，由Facebook人工智能研究院（FAIR）基于Torch推出了PyTorch。它是一个基于Python的可续..
Pytorch基础学习（修改，简化，速成）
weixin_53162487的博客
04-30 5068
pytorch 简要介绍
Pytorch基础知识
weixin_32304201的博客
06-23 159
Tensor Tensor是Pytorch中重要的数据结构，它可以是一个数、一维数组、二维数组或更高维的数组。Tensor和Numpy的narrays类似，但是Tensor可以使用GPU加速。 Tensor基本示例 包的导入： import torch as t 定义一个矩阵（不初始化）： #创建5*3的矩阵(未初始化) x = t.Tensor(5,3) x 创建均匀分布初始化的数组： x = t.rand(5,3) x 查看Tensor的形状： print(x.size()) Te
【pytorch15】链式法则
最新发布
qq_45291280的博客
07-05 141
链式法则
d2l-zh-pytorch.pdf
02-14
6. 自动求导：PyTorch 提供了自动求导功能，允许用户自动计算神经网络中的梯度。 7. 概率论：PyTorch 提供了多种概率论函数，包括基本概率论、多个随机变量的处理、期望和差异等。 8. 查阅文档：PyTorch 提供了...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

幼稚的人呐

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值