Pytorch中高维tensor的transpose和permute转置过程

transpose和permute中转置过程理解

• transpose：只能选择tensor中两个维度进行转置
• permute：可以让tensor按照指定维度顺序（维度的个数就是该tensor的维度数）进行转置

举例

>>> a.torch.randn(2,2,2)
>>> a
tensor([[[-0.9268, 0.6006],
[ 1.0213, 0.5328]],
[[-0.7024, 0.7978],
[ 1.0553, -0.6524]]])

# 将第0维和第1维的元素进行转置
>>> a.transpose(0,1)
tensor([[[-0.9268, 0.6006],
[-0.7024, 0.7978]],
[[ 1.0213, 0.5328],
[ 1.0553, -0.6524]]])

# 按照第2、 1、 0的维度顺序重新进行元素排列
>>> a.permute(2,1,0)
tensor([[[-0.9268, -0.7024],
[ 1.0213, 1.0553]],
[[ 0.6006, 0.7978],
[ 0.5328, -0.6524]]])

• 上面的例子是很简单的，但是对于初学者来讲有点疑惑，因为对于二维的tensor转置很好理解，行变列，列变行，很直观。对于三维和更高维度的tensor的转置直观性较差，为了更好的理解转置过程，我们可以借助坐标，对于-0.7024这个数字在原tensor中的坐标为(1,0,0)，执行transpose操作，对第0维和第1维进行转换，0.7024的坐标变为(0,1,0)，与结果一样。
• 同样的道理，0.5328的原始坐标是(0,1,1)，进行permute操作，原本第2维变为第0维，原本第0维变为第2维，坐标变为(1,1,0)，也正是结果0.5238的位置坐标。