[deeplearning-025]pytorch tutorial

最新推荐文章于 2024-06-10 22:11:40 发布

未济2019

最新推荐文章于 2024-06-10 22:11:40 发布

阅读量285

点赞数

文章标签： pytorch

本文链接：https://blog.csdn.net/lizhe_dashuju/article/details/93350951

版权

本文是PyTorch的快速入门教程，涵盖了PyTorch官网资源、自动微分原理以及如何构建简单的神经网络。通过实例展示了如何在CPU和GPU上操作张量，以及如何利用autograd进行自动微分，为神经网络训练奠定基础。

摘要由CSDN通过智能技术生成

1.pytorch的官网
https://pytorch.org/

2.tutorials

2.1 Deep Learning with PyTorch: A 60 Minute Blitz

2.1.1 what is pytorch
可以使用GPU的numpy替代者
深度学习研究平台

第一个demo，各种操做非常类似numpy
----------------
import torch
x = toruch.empty(5,3)
print(x)
----------------

torch和numpy相互转化
----------------
import torch
import numpy as np

a = torch.ones(5)
b = a.numpy()

c = np.ones(5)
d = tourch.frome_numpy(c)
-----------------

使用GPU
----------------
import torch

x = torch.rand(5,3)

if torch.cuda.is_available():
device = torch.device("cuda") # a CUDA device object
y = torch.ones_like(x, device=device) # directly create a tensor on GPU
x = x.to(device) # or just use strings ``.to("cuda")``
z = x + y
print(z)
print(z.to("cpu", torch.double)) # ``.to`` can also change dtype together!
----------------

2.1.2 autograd 自动微分

pytorch神经网络的核心是autograd包。这个包提供tensor上的所有操作的自动微分。autograd是运行时定义的。

torch.Tensor是pytorch的核心类。如果一个Tensor对象的属性requires_grad设置成True，那么，pytorch会跟踪这个对象上的所有运算，当全部计算完成后，调用backwoard()函数，可以自动计算出这个对象上的梯度，记录到这个对象的grad属性。注意detach()和with torch.no_grad()的用法。

Function类。Tensor和Function构造无环图。每个Tensor的grad_fn属性都指向一个创建这个Tensor的Function对象，有些grad_fn指向None，有些grad_fn指向有意义的函数。

调用一个Tensor对象的backward函数，可以得到它的微分结果。如果Tensor是一个标量，backward函数不需要指定参数。如果Tensor不是标量，需要给backward函数指定gradinet参数。

-------------------
import torch

x = torch.ones(2,2, requires_grad=True)

print(x)

y = x+2

print(y)

print(y.grad_fn)

z = y*y*3

print(z)
print(z.grad_fn)

out = z.mean()

print(out)
print(out.grad_fn)
-------------------