张量操作

一、张量的操作: 拼接、切分、索引和变换

一、张量的拼接与切分

1、torch.cat()

1、torch.cat()

功能: 将张量按维度dim进行拼接

torch.cat(tensors, dim=0, out=None)

tensors: 张量数据
dim: 需要拼接维度

主要有两种拼接方式：按行拼接和按列拼接，也就是dim=0和dim=1

e1 = torch.cat((A1,A2),0), 拼接完的结果是A1上，A2下，类似与python dataframe append功能

e2 = torch.cat((A1,A2),1), 拼接完的结果是A1左，A2右，类似[A1, A2]

2、torch.stack()

1、torch.stack()

功能: 在新创建的维度dim上进行拼接

torch.stack(tensors, dim=0, out=None)


example: 相当于将两个矩阵，再一个新的维度上进行链接，原始的数据维度增加一维(如 二维变成三维)


T1.shape = torch.Size([3, 3])
T2.shape = torch.Size([3, 3])

torch.stack((T1,T2),dim=0).shape = torch.Size([2, 3, 3])
torch.stack((T1,T2),dim=1).shape = torch.Size([3, 2, 3])
torch.stack((T1,T2),dim=2).shape = torch.Size([3, 3, 2])

3、torch.chunk()

torch.chunk(input, chunks, dim=0)


功能: 将张量按维度dim进行平均切分

返回值: 张量列表

input: 要切分的张量
chunks: 要切分的份数
dim: 要切分的维度

example:

>>> a = torch.Tensor([[1,2,4]])
>>> b = torch.Tensor([[4,5,7], [3,9,8], [9,6,7]])
>>> c = torch.cat((a,b), dim=0)
>>> c
tensor([[1., 2., 4.],
        [4., 5., 7.],
        [3., 9., 8.],
        [9., 6., 7.]])
>>> d = torch.chunk(c,4,dim=0)
>>> d
(tensor([[1., 2., 4.]]), tensor([[4., 5., 7.]]), tensor([[3., 9., 8.]]), tensor([[9., 6., 7.]]))

4、torch.split()

torch.split(tensor, split_size_or_sections, dim=0)

功能: 将张量按维度dim进行切分

返回值: 张量列表

tensor: 要切分的张量
split_size_or_sections: 为int时，表示每一份的长度；为list时，按list元素切分
dim: 要切分的维度

example:

>>> section = [1,2,1,2,2]
>>> d = torch.randn(8,4)
>>> d
tensor([[ 0.1100,  1.8889,  1.1625,  0.7474],
        [-0.8003, -0.7463, -1.7287,  0.2690],
        [-0.0310, -0.7457,  0.9924,  0.9361],
        [ 0.5262, -2.3752, -0.0715,  0.8350],
        [ 0.8388, -0.3284,  1.6460,  0.9162],
        [-0.1060,  0.4595,  1.2993,  1.0798],
        [ 0.1333, -0.3867,  0.8843, -1.6599],
        [ 0.7458,  1.8324,  0.7660,  0.3449]])
>>> torch.split(d, section, dim=0)
(tensor([[0.1100, 1.8889, 1.1625, 0.7474]]), tensor([[-0.8003, -0.7463, -1.7287,  0.2690],
        [-0.0310, -0.7457,  0.9924,  0.9361]]), tensor([[ 0.5262, -2.3752, -0.0715,  0.8350]]), tensor([[ 0.8388, -0.3284,  1.6460,  0.9162],
        [-0.1060,  0.4595,  1.2993,  1.0798]]), tensor([[ 0.1333, -0.3867,  0.8843, -1.6599],
        [ 0.7458,  1.8324,  0.7660,  0.3449]]))

二、张量索引

1、torch.index_select()

torch.index_select(input, dim, index, out=None)

功能: 在维度dim上，按index索引数据
返回值: 根据index索引数据拼接的张量

input: 要索引的张量
dim: 要索引的维度
index: 要索引数据的序号


>>> x = torch.rand(3,5)
>>> x
tensor([[0.2641, 0.4911, 0.9260, 0.9348, 0.5120],
        [0.2791, 0.6143, 0.4737, 0.4615, 0.2795],
        [0.8597, 0.4310, 0.2033, 0.3675, 0.5774]])
>>> index = torch.LongTensor([2,0])
>>> index
tensor([2, 0])

# dim=0表示行，取对应index的行数
>>> torch.index_select(x, dim=0, index=index)
tensor([[0.8597, 0.4310, 0.2033, 0.3675, 0.5774],
        [0.2641, 0.4911, 0.9260, 0.9348, 0.5120]])

# dim=1表示列，取对应index的列数
>>> torch.index_select(x, dim=1, index=index)
tensor([[0.9260, 0.2641],
        [0.4737, 0.2791],
        [0.2033, 0.8597]])

2、torch.masked_select()

torch.masked_select(input, mask, out=None)

功能: 按mask中的True进行索引
返回值: 一维张量

input: 要索引的张量
mask: 与input同形状的布尔类型张量

example:

>>> a =torch.Tensor([1,2,4,4,5])
>>> print(torch.masked_select(a, a<3))
tensor([1., 2.])

三、张量变换

1、torch.reshape()

torch.reshape(input, shape)

功能： 变换张量形状

input: 要变换的张量
shape: 新张量的形状

注: 张量在内存中是连续时，新张量与input共享数据内存

example:

>>> a = torch.randn(3,4)
>>> a
tensor([[-2.2423,  2.0383, -0.8332, -0.7399],
        [ 1.8236,  0.1848, -0.5453, -1.6985],
        [ 0.0915, -1.4923, -0.6636,  0.8819]])
>>> torch.reshape(a,(4,3))
tensor([[-2.2423,  2.0383, -0.8332],
        [-0.7399,  1.8236,  0.1848],
        [-0.5453, -1.6985,  0.0915],
        [-1.4923, -0.6636,  0.8819]])

2、torch.transpose()

torch.transpose(input, dim0, dim1)

功能: 交换一个tensor的两个维度

dim0、dim1: 要交换的维度


example: 


>>> cc = torch.rand((2,3,4))
>>> cc
tensor([[[0.2153, 0.2895, 0.0300, 0.0705],
         [0.3040, 0.0302, 0.5433, 0.3061],
         [0.3409, 0.1692, 0.4029, 0.0016]],

        [[0.9374, 0.5397, 0.1523, 0.2801],
         [0.4294, 0.1527, 0.7562, 0.4555],
         [0.2880, 0.1197, 0.4542, 0.3580]]])
>>> dd = torch.transpose(cc,1,2)
>>> dd
tensor([[[0.2153, 0.3040, 0.3409],
         [0.2895, 0.0302, 0.1692],
         [0.0300, 0.5433, 0.4029],
         [0.0705, 0.3061, 0.0016]],

        [[0.9374, 0.4294, 0.2880],
         [0.5397, 0.1527, 0.1197],
         [0.1523, 0.7562, 0.4542],
         [0.2801, 0.4555, 0.3580]]])
>>> dd.shape
torch.Size([2, 4, 3])
>>> cc.shape
torch.Size([2, 3, 4])

3、torch.t()

torch.t(input)

功能: 2维张量转置，对矩阵而言，等价于torch.transpose(input, 0, 1)

example:

>>> a = torch.randn(1,2)
>>> a.t()
tensor([[1.9376],
        [1.0067]])
>>> a
tensor([[1.9376, 1.0067]])

4、torch.seueeze()

torch.squeeze(input, dim=None, out=None)

功能: 压缩长度为1的维度

dim: 若为None，移除所有长度为1的维度，若指定维度，当且仅当该长度为1时，可以被移除


>>> a = torch.randn(1,10)
>>> a.shape
torch.Size([1, 10])
>>> a1 = torch.unsqueeze(a,1)
>>> a1
tensor([[[-1.0263, -0.2194,  1.3285, -1.0941,  0.3763,  0.2249, -1.1332,
           0.2836, -0.4400, -0.3642]]])

>>> a2 = torch.squeeze(a1)
>>> a2
tensor([-1.0263, -0.2194,  1.3285, -1.0941,  0.3763,  0.2249, -1.1332,  0.2836,
        -0.4400, -0.3642])

>>> a2.shape
torch.Size([10])

5、torch.unsqueeze()

torch.unsqueeze(input, dim, out=None)


功能: 依据dim扩展维度

dim: 要扩展的维度

 

二、张量的数学相关运算

一、加减乘除

张量的加减乘除函数如下所示:

1、torch.add() # 相加

2、torch.addcdiv() # 相除

3、torch.addcmul() # 逐个元素相乘，并对结果乘以标量值

4、torch.sub() # 相减

5、torch.div() # 相除

6、torch.mul() # 相乘
   

二、对数、指数、幂函数

1、torch.log(input, out=None) 

2、torch.log10(input, out=None) 

3、torch.log2(input, out=None) 

4、torch.exp(input, out=None) 

5、torch.pow()

三、三角函数

1、torch.abs(input, out=None) 

2、torch.acos(input, out=None) 

3、torch.cosh(input, out=None) 

4、torch.cos(input, out=None) 

5、torch.asin(input, out=None) 

6、torch.atan(input, out=None) 

7、torch.atan2(input, other, out=None)