一、张量的介绍
1.1 张量(Tensor)是什么
张量是一个多维数组,它是标量、向量、矩阵的高维扩展
1.2 Tensor与Variable
Variable是torch.autograd中的数据类型,主要用于封装Tensor进行自动求导
- data : 被包装的Tensor
- grad : data的梯度
- grad_ fn : 创建Tensor的Function,是自动求导的关键
- requires_grad : 指示是否需要梯度
- is_ leaf : 指示是否是叶子结点(张量)
PyTorch0.4.0版开始, Variable并入Tensor
- dtype: 张量的数据类型, 如torch.FloatTensor, torch.cuda.FloatTensor
- shape: 张量的形状, 如(64, 3, 224, 224)
- device: 张量所在设备, GPU/CPU,是加速的关键
常用的张量数据类型:
二、张量的创建
2.1 直接创建
2.1.1 torch.tensor()
torch.tensor(data, dtype=None, device=None, requires_grad=False, pin_memory=False)
功能: 从data创建tensor
- data: 数据,可以是list, numpy
- dtype: 数据类型,默认与data的一致
- device: 所在设备, cuda/cpu
- requires_grad: 是否需要计算梯度
- pin_memory: 是否存于锁页内存,与转换效率有关
# 通过torch.tensor()创建
arr = np.ones((3, 3))
print("ndarray的数据类型:", arr.dtype)
t = torch.tensor(arr, device='cuda')
# t = torch.tensor(arr)
print(t)
2.1.2 torch.from_numpy(ndarray)
功能: 从numpy创建tensor
注意事项: 从torch.from_numpy创建的tensor与原ndarray共享内存, 当修改其中一个的数据,另外一个也将会被改动
# 通过torch.from_numpy创建张量
arr = np.array([[1, 2, 3], [4, 5, 6]])
t = torch.from_numpy(arr)
print("numpy array: ", arr)
print("tensor : ", t)
print("\n修改arr")
arr[0, 0] = 0
print("numpy array: ", arr)
print("tensor : "