Pytorch学习要点整理
PyTorch是一个基于Torch的Python开源机器学习库,用于自然语言处理等应用程序。它主要由Facebookd的人工智能小组开发,不仅能够实现强大的GPU加速,同时还支持动态神经网络,这一点是现在很多主流框架如TensorFlow都不支持的。 PyTorch提供了两个高级功能:
1.具有强大的GPU加速的张量计算(如Numpy)
2.包含自动求导系统的深度神经网络 除了Facebook之外,Twitter、GMU和Salesforce等机构都采用了PyTorch。
TensorFlow和Pytorch的区别:
(1)tensorflow是基于静态图的,静态图是先定义在运行,一次定义多次运行(当然TensorFlow开始也使用动态计算图)
(2)Pytorch则是基于动态计算图是在运行过程中被定义的,在运行的时候构建,可以多次构建多次运行。
-
当修改numpy数组之后,与之关联的tensor也会相应的被修改
通过.numpy将Pytorch中的tensor转换成numpy中的数组,通过Torch.Tensor将Numpy数组转换为Torch Tensor -
怎么用autograd
(1)跟踪Tensor上的所有操作:设置属性requires_grad= True
(2)自动计算所有梯度:调用.backward()
(3) 停止跟踪Tensor 方式1:调用detach()方式2:代码块with torch. no grad
(4) 若Tensor不仅仅是标量,则需要指定gradient参数来指定张量的形式
一、官方教程内容总结
官方教程
1.Any operation that mutates a tensor in-place is post-fixed with an . For example: x.copy(y), x.t_(), will change x.
只要是原地操作张亮一般都是加一个下划线。
2.如果resize或者reshape一个tensor的话可以使用torch.view
x = torch.randn(4, 4)
y = x.view(16)
z = x.view(-1, 8)
- 如果torch是在cpu上&