Pytorch学习要点整理

Pytorch学习要点整理

PyTorch是一个基于Torch的Python开源机器学习库，用于自然语言处理等应用程序。它主要由Facebookd的人工智能小组开发，不仅能够实现强大的GPU加速，同时还支持动态神经网络，这一点是现在很多主流框架如TensorFlow都不支持的。 PyTorch提供了两个高级功能：
1.具有强大的GPU加速的张量计算（如Numpy）
2.包含自动求导系统的深度神经网络 除了Facebook之外，Twitter、GMU和Salesforce等机构都采用了PyTorch。

TensorFlow和Pytorch的区别：
（1）tensorflow是基于静态图的，静态图是先定义在运行，一次定义多次运行（当然TensorFlow开始也使用动态计算图）
（2）Pytorch则是基于动态计算图是在运行过程中被定义的，在运行的时候构建，可以多次构建多次运行。

• 当修改numpy数组之后，与之关联的tensor也会相应的被修改
  通过.numpy将Pytorch中的tensor转换成numpy中的数组，通过Torch.Tensor将Numpy数组转换为Torch Tensor

• 怎么用autograd
  （1）跟踪Tensor上的所有操作：设置属性requires_grad= True
  （2）自动计算所有梯度：调用.backward()
  (3) 停止跟踪Tensor 方式1：调用detach（）方式2：代码块with torch. no grad
  (4) 若Tensor不仅仅是标量，则需要指定gradient参数来指定张量的形式

一、官方教程内容总结

官方教程
1.Any operation that mutates a tensor in-place is post-fixed with an . For example: x.copy(y), x.t_(), will change x.
只要是原地操作张亮一般都是加一个下划线。
2.如果resize或者reshape一个tensor的话可以使用torch.view

x = torch.randn(4, 4)
y = x.view(16)
z = x.view(-1, 8)

3. 如果torch是在cpu上&