PyTorch是什么?
这是一个基于Python的科学计算包,针对两组受众:
- 想要替换NumPy从而使用GPU的计算能力
- 提供更大灵活性和速度的深度学习研究平台
Tensor
import torch
x = torch.empty(5, 3) # 构建一个5x3的空矩阵
x = torch.rand(5, 3) # 构建一个5x3的随机矩阵
x = torch.zeros(5, 3, dtype=torch.long) # 构建一个5x3的全0矩阵,且数据类型为long
x = torch.tensor([5.5, 3]) # 对已有的数据(非tensor)创建一个矩阵
x = x.new_ones(5, 3, dtype=torch.int) # 基于一个已有的tensor创建一个新的tensor
x = torch.randn_like(x, dtype=torch.float) # 覆盖上面x的数据类型dtype
x.size() # 获取tensor的大小
张量运算
import torch
x = torch.rand(5, 3)
y = torch.rand(5, 3)
# 加法
print(x + y) # 语法1
print(torch.add(x, y)) # 语法2
result = torch.empty(5, 3) # 提供一个输出张量result作为参数
torch.add(x, y, out=result)
print(result)
# 任何原位修改一个张量的运算操作都带有下划线后缀:y.add_()
y.add_(x) # 原位操作,直接把x加到y上
# 调整张量的大小/形状
x = torch.randn(4, 4)
y = x.view(16)
z = x.view(-1, 8)
print(x.size(), y.size(), z.size())
# 输出:torch.Size([4, 4]) torch.Size([16]) torch.Size([2, 8])
# 对于只有单元素张量,可以使用.item()来取得里面的值,将其作为普通的Python number使用
x = torch.randn(1)
print(x, x.item())
# 输出:tensor([0.1344]) 0.13437242805957794
NumPy桥接
- 把Torch Tensor转换为一个NumPy Array
import torch
a = torch.ones(5) # tensor([1., 1., 1., 1., 1.])
b = a.numpy() # [1. 1. 1. 1. 1.]
- 把Numpy Array转换为一个Torch Tensor
import numpy as np
import torch
a = np.ones(5)
b = torch.from_numpy(a)
np.add(a, 1, out=a)
CUDA张量
可以使用.to方法把张量移动到任意的设备。
import torch
if torch.cuda.is_available():
device = torch.device("cuda") # 获取cuda设备目标
y = torch.ones_like(x, device=device) # 在GPU上直接创建一个tensor
x = x.to(device) # 使用.to方法将张量x移动到有GPU的设备上
z = x + y
print(z)
print(z.to("cpu", torch.double)) # 也可以使用.to方法把张量z从GPU上移动到CPU上