pytorch tensor基本介绍及操作

1. 张量在数学里时一种几何实体，包括：标量、向量和线性算子。
   1. 标量（数）
   2. 向量（一维数组）
   3. 矩阵（二维数组）
   4. 张量（高维数组）

2. tensors类似于numpy的ndarray，在GPU上可以使用tensors来加速

3. 关于tensor维度的理解：

   1. https://www.cnblogs.com/logicalsky/p/9122437.html（浅显易懂）

4. tensors的常见类型

   

    

5. tensor的基本操作

   # pytorch基础练习， tensor的基本操作
   import torch
   # tensor生成的几种方式 （注释部分为size大小）
   """
   # torch.Tensor和torch.tensor的区别
   torch.Tensor()是Python类，更明确的说，是默认张量类型torch.FloatTensor()的别名，
   torch.Tensor([4,5]) 会调用Tensor类的构造函数__init__，生成单精度浮点类型的张量。
   
   torch.tensor()仅仅是Python的函数，函数原型是：
   torch.tensor(data, dtype=None, device=None, requires_grad=False)
   其中data可以是：list, tuple, array, scalar等类型。
   torch.tensor()可以从data中的数据部分做拷贝（而不是直接引用），
   根据原始数据类型生成相应的torch.LongTensor，torch.FloatTensor，torch.DoubleTensor。
   """
   a = torch.Tensor(4, 5)  # [4,5]
   b = torch.rand(4, 5)  # 随机生成,[4,5]
   aa = torch.zeros(2, 1, 2, 4, 2)  # [2,1,2,4,2]
   bb = torch.FloatTensor([-1, -2, 3])  # [3]
   
   # tensor和其他类型之间的相互转化
   # 1、numpy
   c = a.numpy()  # tensor转numpy
   d = torch.from_numpy(c)  # numpy转tensor
   # 2、list
   c = a.tolist()  # tensor转list
   # 3、CPU/GPU
   # c = a.cuda()
   # d = c.cpu()
   
   # tensor的数学操作
   # 相加
   c = a + b
   c = torch.add(a, b)
   d = torch.add(a, 20)  # 可以加上标量，也可以加上张量
   # 求每个元素的绝对值
   c = torch.abs(bb)
   
   # 数理统计
   # 求平均值，第二个参数表示第几个维度；从0开始计数，从左往右；最后的结果，就是去掉该位置上的维数，剩下的维数
   c = torch.mean(a, 0)  # 按行求平均，返回的size是列数，原始：[4,5], 结果：[5]
   d = torch.mean(a, 1)  # 按列求平均，返回的size是行数, 原始：[4,5], 结果：[4]
   e = torch.mean(aa, 1)  # 原始：[2,1,2,4,2], 结果：[2,2,4,2]
   
   # 判断是否相等
   c = torch.eq(a, b)  # 对于同size的两个tensor挨个元素比较，返回同size的tensor
   e = torch.eq(a, 0)  # 第二个参数可以是同size的tensor或者是一个数
   d = torch.equal(a, b)  # 返回True/False
   
   # 神经网络tensor常用操作
   # 求所有元素个数
   c = a.numel()
   # 维数压缩，第二个参数表示维度，从左往右，从0开始计数
   d = torch.squeeze(aa)  # 去掉维数为1的维数，[2,2,4,2]
   e = torch.squeeze(aa, 2)  # 指定维度的维数若为1则去除，否则还是原值 [2,1,2,4,2]
   # 维数扩展，第二个参数表示维度，必现，且值不能大于原先的维数
   d = torch.unsqueeze(a, 1)  # 在指定位置上增加一维，[4,1,5]
   e = torch.unsqueeze(a, 2)  # [4,5,1]
   # tensor拼接之stack
   d = torch.stack((a, b))  # 输入必须是tuple/list，stack的拼接是建立一个新的维度，然后再在该纬度上进行拼接，默认新建的维度是第0维，[2,4,5]
   e = torch.stack((a, b), 1)  # [4,2,5]
   f = torch.stack((a, b), -1)  # [4,5,2]
   g = torch.stack([a, b, b])  # [3,4,5]
   # tensor拼接之cat
   d = torch.cat([a, b])  # 输入必须是tuple/list，cat是在已有维度上拼接，默认是第0维，[8,5]
   e = torch.cat((a, b), 1)  # [4,10]
   # 张量扩展之expand
   # 1. 只能对维度值为1的维度进行扩展，且扩展的Tensor不会分配新的内存，只是原来的基础上创建新的视图并返回；
   # 2. 无需扩展的维度请保持维度值不变。
   # d = torch.Tensor(3, 1).expand(3, 4)  # 扩展的那维的值是一样的， [3,4]