- 张量在数学里时一种几何实体,包括:标量、向量和线性算子。
- 标量(数)
- 向量(一维数组)
- 矩阵(二维数组)
- 张量(高维数组)
-
tensors类似于numpy的ndarray,在GPU上可以使用tensors来加速
-
关于tensor维度的理解:
-
tensors的常见类型
-
tensor的基本操作
# pytorch基础练习, tensor的基本操作 import torch # tensor生成的几种方式 (注释部分为size大小) """ # torch.Tensor和torch.tensor的区别 torch.Tensor()是Python类,更明确的说,是默认张量类型torch.FloatTensor()的别名, torch.Tensor([4,5]) 会调用Tensor类的构造函数__init__,生成单精度浮点类型的张量。 torch.tensor()仅仅是Python的函数,函数原型是: torch.tensor(data, dtype=None, device=None, requires_grad=False) 其中data可以是:list, tuple, array, scalar等类型。 torch.tensor()可以从data中的数据部分做拷贝(而不是直接引用), 根据原始数据类型生成相应的torch.LongTensor,torch.FloatTensor,torch.DoubleTensor。 """ a = torch.Tensor(4, 5) # [4,5] b = torch.rand(4, 5) # 随机生成,[4,5] aa = torch.zeros(2, 1, 2, 4, 2) # [2,1,2,4,2] bb = torch.FloatTensor([-1, -2, 3]) # [3] # tensor和其他类型之间的相互转化 # 1、numpy c = a.numpy() # tensor转numpy d = torch.from_numpy(c) # numpy转tensor # 2、list c = a.tolist() # tensor转list # 3、CPU/GPU # c = a.cuda() # d = c.cpu() # tensor的数学操作 # 相加 c = a + b c = torch.add(a, b) d = torch.add(a, 20) # 可以加上标量,也可以加上张量 # 求每个元素的绝对值 c = torch.abs(bb) # 数理统计 # 求平均值,第二个参数表示第几个维度;从0开始计数,从左往右;最后的结果,就是去掉该位置上的维数,剩下的维数 c = torch.mean(a, 0) # 按行求平均,返回的size是列数,原始:[4,5], 结果:[5] d = torch.mean(a, 1) # 按列求平均,返回的size是行数, 原始:[4,5], 结果:[4] e = torch.mean(aa, 1) # 原始:[2,1,2,4,2], 结果:[2,2,4,2] # 判断是否相等 c = torch.eq(a, b) # 对于同size的两个tensor挨个元素比较,返回同size的tensor e = torch.eq(a, 0) # 第二个参数可以是同size的tensor或者是一个数 d = torch.equal(a, b) # 返回True/False # 神经网络tensor常用操作 # 求所有元素个数 c = a.numel() # 维数压缩,第二个参数表示维度,从左往右,从0开始计数 d = torch.squeeze(aa) # 去掉维数为1的维数,[2,2,4,2] e = torch.squeeze(aa, 2) # 指定维度的维数若为1则去除,否则还是原值 [2,1,2,4,2] # 维数扩展,第二个参数表示维度,必现,且值不能大于原先的维数 d = torch.unsqueeze(a, 1) # 在指定位置上增加一维,[4,1,5] e = torch.unsqueeze(a, 2) # [4,5,1] # tensor拼接之stack d = torch.stack((a, b)) # 输入必须是tuple/list,stack的拼接是建立一个新的维度,然后再在该纬度上进行拼接,默认新建的维度是第0维,[2,4,5] e = torch.stack((a, b), 1) # [4,2,5] f = torch.stack((a, b), -1) # [4,5,2] g = torch.stack([a, b, b]) # [3,4,5] # tensor拼接之cat d = torch.cat([a, b]) # 输入必须是tuple/list,cat是在已有维度上拼接,默认是第0维,[8,5] e = torch.cat((a, b), 1) # [4,10] # 张量扩展之expand # 1. 只能对维度值为1的维度进行扩展,且扩展的Tensor不会分配新的内存,只是原来的基础上创建新的视图并返回; # 2. 无需扩展的维度请保持维度值不变。 # d = torch.Tensor(3, 1).expand(3, 4) # 扩展的那维的值是一样的, [3,4]