Pytorch入门

最新推荐文章于 2024-09-19 11:10:49 发布

周先森的小丢丢

最新推荐文章于 2024-09-19 11:10:49 发布

阅读量885

点赞数 2

分类专栏： python学习笔记文章标签： python 深度学习

本文链接：https://blog.csdn.net/lyy_buu/article/details/77506440

版权

python学习笔记专栏收录该内容

2 篇文章 0 订阅

订阅专栏

https://zhuanlan.zhihu.com/p/25572330
本文是根据以上链接边学习边复制的笔记

PyTorch是什么?
这是一个基于Python的科学计算包，其旨在服务两类场合：

替代numpy发挥GPU潜能
一个提供了高度灵活性和效率的深度学习实验性平台

pytorch的Tensor
Tensor和numpy的ndarrays类似，因此Tensor也能够使用GPU加速运算。

from __future__ import print_function

import torch

x = torch.Tensor(5, 3)  # 构造一个未初始化的5*3的矩阵

x = torch.rand(5, 3)  # 构造一个随机初始化的矩阵

x # 此处在notebook中输出x的值来查看具体的x内容

x.size()



#NOTE: torch.Size 事实上是一个tuple, 所以其支持相关的操作*

y = torch.rand(5, 3)



#此处 将两个同形矩阵相加有两种语法结构

x + y # 语法一

torch.add(x, y) # 语法二



# 另外输出tensor也有两种写法

result = torch.Tensor(5, 3) # 语法一

torch.add(x, y, out=result) # 语法二

y.add_(x) # 将y与x相加



# 特别注明：任何可以改变tensor内容的操作都会在方法名后加一个下划线'_'

# 例如：x.opy_(y), x.t_(), 这俩都会改变x的值。



#另外pthon#中的切片操作列的所也是类似的
x[:,1]#将输出x矩阵的第2列所有的值

Numpy桥

# 此处演示tensor和numpy数据结构的相互转换
a = torch.ones(5)
b = a.numpy()

# 此处演示当修改numpy数组之后,与之相关联的tensor也会相应的被修改
a.add_(1)
print(a)
print(b)

# 将numpy的Array转换为torch的Tensor
import numpy as np
a = np.ones(5)
b = torch.from_numpy(a)
np.add(a, 1, out=a)
print(a)
print(b)

# 另外除了CharTensor之外，所有的tensor都可以在CPU运算和GPU预算之间相互转换
# 使用CUDA函数来将Tensor移动到GPU上
# 当CUDA可用时会进行GPU的运算
if torch.cuda.is_available():
    x = x.cuda()
    y = y.cuda()
    x + y

Pytorch中的神经网络

PyTorch中所有的神经网络都来自于autograd包

autograd 包提供Tensor所有操作的自动求导方法。
这是一个运行时定义的框架，这意味着你的反向传播是根据你代码运行的方式来定义的，因此每一轮迭代都可以各不相同。
以这些例子来讲，让我们用更简单的术语来看看这些特性。
autograd.Variable 这是这个包中最核心的类。它包装了一个Tensor，并且几乎支持所有的定义在其上的操作。一旦完成了你的运算，你可以调用 .backward()来自动计算出所有的梯度。
你可以通过属性 .data 来访问原始的tensor，而关于这一Variable的梯度则集中于 .grad 属性中。

还有一个在自动求导中非常重要的类 Function。
Variable 和 Function 二者相互联系并且构建了一个描述整个运算过程的无环图。每个Variable拥有一个 .creator 属性，其引用了一个创建Variable的 Function。(除了用户创建的Variable其 creator 部分是 None)。
如果你想要进行求导计算，你可以在Variable上调用.backward()。如果Variable是一个标量（例如它包含一个单元素数据），你无需对backward()指定任何参数，然而如果它有更多的元素，你需要指定一个和tensor的形状匹配的grad_output参数。

from torch.autograd import Variable
x = Variable(torch.ones(2, 2), requires_grad = True)
y = x + 2
y.creator

# y 是作为一个操作的结果创建的因此y有一个creator 
z = y * y * 3
out = z.mean()

# 现在我们来使用反向传播
out.backward()

# out.backward()和操作out.backward(torch.Tensor([1.0]))是等价的
# 在此处输出 d(out)/dx
x.grad