【Pytorch】Tensor维度变换

最新推荐文章于 2024-06-11 16:05:09 发布
最新推荐文章于 2024-06-11 16:05:09 发布
阅读量1.3k 收藏 1
点赞数 3
分类专栏： Python 文章标签： 机器学习 维度变换 pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45437022/article/details/114090797
版权

文章目录

Tensor维度变换

1. view / reshape

  • 在 Pytorch 0.3 时，使用的默认 API 是 view
  • 在 Pytorch 0.4 时，为了与numpy一致，增加了 reshape 方法
  • 保证其元素个数不变的前提下，任意改变其维度
  • 若改变了元素个数，就会报错

1.1 view 函数

a = torch.rand(2, 1, 2, 2)	# 共有 2 * 1 * 2 * 2 = 8 个元素
print(a.shape)  # torch.Size([2, 1, 2, 2])
print(a.numel())	# 8
print(a)
'''
tensor([
        [[[0.6904, 0.6917],[0.1554, 0.4077]]],
        [[[0.7704, 0.3776],[0.5143, 0.8417]]]
        ])
'''

b = a.view(2, 2 * 2)	# 表示把 1 2 3三个维度合并成 1 个维度，第 0 维度不动
print(b.shape)  # torch.Size([2, 4])
print(b.numel())	# 8
print(b)
'''
tensor([[0.6904, 0.6917, 0.1554, 0.4077],
        [0.7704, 0.3776, 0.5143, 0.8417]])
'''

c = b.view(8)
print(c.shape) 		# torch.Size([8])
print(c.numel())	# 8
print(c)
'''
tensor([0.6904, 0.6917, 0.1554, 0.4077, 0.7704, 0.3776, 0.5143, 0.8417])
'''

d = c.view(8, 1, 1, 1, 1, 1, 1, 1, 1, 1)
print(d.shape)  # torch.Size([8, 1, 1, 1, 1, 1, 1, 1, 1, 1])
print(d)
'''
tensor([[[[[[[[[[0.6904]]]]]]]]],
        [[[[[[[[[0.6917]]]]]]]]],
        [[[[[[[[[0.1554]]]]]]]]],
        [[[[[[[[[0.4077]]]]]]]]],
        [[[[[[[[[0.7704]]]]]]]]],
        [[[[[[[[[0.3776]]]]]]]]],
        [[[[[[[[[0.5143]]]]]]]]],
        [[[[[[[[[0.8417]]]]]]]]]])
'''

print(a.dim())		# 4维度
print(b.dim())		# 2维度
print(c.dim())		# 1维度
print(d.dim())  	# 10w维度

1.2 reshape 函数

  • 与 view 函数用法一致
a = torch.ones(2, 1,  2)
print(a.shape)      # torch.Size([2, 1, 2, 2])
print(a.dim())      # 3
print(a.numel())    # 4
print(a)
'''
tensor([
        [[1., 1.]],
        [[1., 1.]]
       ])
'''


b = a.reshape(4)
print(b.shape)  # torch.Size([2, 4])
print(b.dim())  # 1
print(b.numel())    # 4
print(b)
'''
tensor([1., 1., 1., 1.])
'''

2. squeeze / unsqueeze

2.1 unsqueeze 函数

def unsqueeze(dim) -> Tensor
  • unsqueeze：展开，增加一个维度，但是不改变数据个数
  • dim ： 参数范围 dim ∈ [ -(原dimMax + 1), (原dimMax + 1) )，能取左边界，无法取右边界
  • 功能：在 dim 维度处插入一个维度，原 dim 维度及后续维度后移

参数dim正数范围： [ 0, 原 dimMax ]，下面测试代码为 dim∈ [0, 4] ，如果在第 5 维度新增维度会报错

import torch

a = torch.ones(4, 3, 28, 28)
print(a.dim())  # 4
print(a.shape)  # torch.Size([4, 3, 28, 28])

b = a.unsqueeze(0)  # 在 0 维度处插入一个维度
print(b.dim())  # 5
print(b.shape)  # torch.Size([1, 4, 3, 28, 28])

b = a.unsqueeze(1)  # 在 1 维度处插入一个维度
print(b.dim())  # 5
print(b.shape)  # torch.Size([4, 1, 3, 28, 28])

b = a.unsqueeze(2)  # 在 2 维度处插入一个维度
print(b.dim())  # 5
print(b.shape)  # torch.Size([4, 3, 1, 28, 28])

b = a.unsqueeze(3)  # 在 3 维度处插入一个维度
print(b.dim())  # 5
print(b.shape)  # torch.Size([4, 3, 28, 1, 28])

b = a.unsqueeze(4)  # 在 4 维度处插入一个维度
print(b.dim())  # 5
print(b.shape)  # torch.Size([4, 3, 28, 28, 1])

b = a.unsqueeze(5)  # 在 5 维度处插入一个维度
print(b.dim())  
print(b.shape)  
# IndexError: Dimension out of range (expected to be in range of [-5, 4], but got 5)

参数dim负数范围： [ - ( 原 dimMax + 1 ), 0 ]，下面测试代码为 dim∈ [ -5, 0 ]

import torch

a = torch.ones(4, 3, 28, 28)
print(a.dim())  # 4
print(a.shape)  # torch.Size([4, 3, 28, 28])

b = a.unsqueeze(0)  # 在 0 维度前面插入一个新维度
print(b.dim())  # 5
print(b.shape)  # torch.Size([1, 4, 3, 28, 28])

b = a.unsqueeze(-1)  # 在 4 维度处插入一个维度
print(b.dim())  # 5
print(b.shape)  # torch.Size([4, 3, 28, 28, 1])

b = a.unsqueeze(-2)  # 在 3 维度处插入一个维度
print(b.dim())  # 5
print(b.shape)  # torch.Size([4, 3, 28, 1, 28])

b = a.unsqueeze(-3)  # 在 2 维度处插入一个维度
print(b.dim())  # 5
print(b.shape)  # torch.Size([4, 3, 1, 28, 28])

b = a.unsqueeze(-4)  # 在 1 维度处插入一个维度
print(b.dim())  # 5
print(b.shape)  # torch.Size([4, 1, 3, 28, 28])

b = a.unsqueeze(-5)  # 在 0 维度处插入一个维度
print(b.dim())  # 5
print(b.shape)  # torch.Size([1, 4, 3, 28, 28])
案例
  • 将 b Tensor 的维度变成和 f Tensor 的维度一样
b = torch.rand(32)
f = torch.rand(4, 32, 14, 14)
b = b.unsqueeze(1).unsqueeze(2).unsqueeze(0)
print(b.shape)	# torch.Size([1, 32, 1, 1])

2.2 squeeze 函数

def squeeze(dim=None) -> Tensor
  • 参数不填：将所有维度中值为1的维度删除
  • 填入正dim：将dim维度删除，若dim超过原维度最大值，则报错
  • 填入负dim：将倒数dim维度删除，若该dim中的值不为 1 则不删除，只有 dim 中的值为 1 才删除该维度

参数dim正数范围：[1, 原 dimMax]

a = torch.ones(1, 1, 2, 2)
print(a.dim())  # 4
print(a.shape)  # torch.Size([1, 1, 2, 2])

b = a.squeeze()
print(b.dim())  # 2
print(b.shape)  # torch.Size([2, 2])

b = a.squeeze(0)
print(b.dim())  # 3
print(b.shape)  # torch.Size([1, 2, 2])

b = a.squeeze(1)
print(b.dim())  # 3
print(b.shape)  # torch.Size([1, 2, 2])

b = a.squeeze(2)
print(b.dim())  # 2
print(b.shape)  # torch.Size([2, 2])

b = a.squeeze(3)
print(b.dim())  # 4
print(b.shape)  # torch.Size([1, 1, 2, 2])

b = a.squeeze(4)
print(b.dim()) 
print(b.shape)  
# IndexError: Dimension out of range (expected to be in range of [-4, 3], but got 4)

参数dim负数范围：[- 原 dimMax, -1]

a = torch.ones(1, 1, 2, 2)
print(a.dim())  # 4
print(a.shape)  # torch.Size([4, 3, 28, 28])

b = a.squeeze()
print(b.dim())  # 2
print(b.shape)  # torch.Size([2, 2])

b = a.squeeze(0)
print(b.dim())  # 3
print(b.shape)  # torch.Size([1, 2, 2])

b = a.squeeze(-1)
print(b.dim())  # 4
print(b.shape)  # torch.Size([1, 1, 2, 2])

b = a.squeeze(-2)
print(b.dim())  # 4
print(b.shape)  # torch.Size([1, 1, 2, 2])

b = a.squeeze(-3)
print(b.dim())  # 3
print(b.shape)  # torch.Size([1, 2, 2])

b = a.squeeze(-4)
print(b.dim())  # 3
print(b.shape)  # torch.Size([1, 2, 2])

3. expand / repeat

3.1 expand 函数

def expand(*sizes) -> Tensor
  • 按照传入的参数，将原 dim 中的值个数按照参数的值进行修改，并将其中的值按原有的值进行初始化
  • 原维度中的值必须 小于等于 改变后的维度中的值
  • 将不想改变的维度中填入 -1 后，该维度中的值不会改变
a = torch.rand(2, 1, 2, 2)
b = torch.rand(2, 1, 1, 1)
c = b.expand(a.shape)
print(c.shape)  # torch.Size([2, 1, 2, 2])
print(a)
print(b)
print(c)
'''
tensor([[[[0.4356, 0.0878],
          [0.3151, 0.1201]]],
        [[[0.3978, 0.2646],
          [0.0629, 0.9532]]]])
tensor([[[[0.9870]]],
        [[[0.1181]]]])
tensor([[[[0.9870, 0.9870],
          [0.9870, 0.9870]]],
        [[[0.1181, 0.1181],
          [0.1181, 0.1181]]]])
'''

3.2 repeat 函数

def repeat(*sizes) -> Tensor
  • 将原维度中的值进行复制sizes次
b = torch.rand(2, 1, 1, 1)
c = b.repeat(1, 2, 1, 2)
print(c.shape)  # torch.Size([2, 2, 1, 2])
print(c)
'''
tensor([[[[0.2657, 0.2657]],
         [[0.2657, 0.2657]]],
        [[[0.8223, 0.8223]],
         [[0.8223, 0.8223]]]])
'''

代码解释：

c = b.repeat(1, 2, 1, 2)

将 b 的 0 维度中的值复制 1 次，所以复制之后 0 维度中有 2 * 1 个值

将 b 的 1 维度中的值复制 2 次，所以复制之后 1 维度中有 1 * 2 个值

将 b 的 2 维度中的值复制 1 次，所以复制之后 2 维度中有 1 * 1 个值

将 b 的 3 维度中的值复制 2 次，所以复制之后 3 维度中有 1 * 2 个值

4. 矩阵转置

4.1 t 函数

def t() -> Tensor
  • 将矩阵转置
  • 只适用于 2D 的矩阵，其他多维度都不适用
a = torch.randn(2, 2)
print(a)
b = a.t()
print(b)
'''
tensor([[-0.6856,  0.7479],
        [ 0.7589,  0.6101]])
tensor([[-0.6856,  0.7589],
        [ 0.7479,  0.6101]])
'''

4.2 transpose 函数

def transpose(dim0, dim1) -> Tensor
  • 功能：将 dim0 维度与 dim1 维度进行交换
a = torch.randn(4, 3, 28, 28)
print(a.shape)      # torch.Size([4, 3, 28, 28])
a1 = a.transpose(0, 3)
print(a1.shape)     # torch.Size([28, 3, 28, 4])
案例：数据污染
  • 注意：view 函数运行之后需要记住原维度及size才能恢复原状，要不然可能会产生数据污染，如下代码所示
a = torch.randn(4, 3, 32, 32)

a1 = a.transpose(1, 3).contiguous().view(4, 3 * 32 * 32).view(4, 3, 32, 32)
a2 = a.transpose(1, 3).contiguous().view(4, 3 * 32 * 32).view(4, 32, 32, 3).transpose(1, 3)

# 比较是否完全一样
print(torch.all(torch.eq(a, a1)))   # tensor(False)
print(torch.all(torch.eq(a, a2)))   # tensor(True)

4.3 permute 函数

def permute(*dims) -> Tensor
  • 对维度顺序进行指定
a = torch.rand(4, 3, 28, 28)
b = a.permute(0, 2, 3, 1)
print(b.shape)  # torch.Size([4, 28, 28, 3])

解释：

将原来的 0 维度放置在 0 维度处

将原来的 2 维度放置在 1 维度处

将原来的 3 维度放置在 2 维度处

将原来的 1 维度放置在 3 维度处

5. Broadcasting

特点：

  • 自动扩展维度并改变维度中的值：自动调用 expand 函数
  • 没有数据拷贝：不需要拷贝数据

例如：Tensor A [4, 32, 14, 14] ; Tensor B [32, 1, 1]

将 B 转化为 A ：先扩展维度，再扩展维度中的值

[32, 1, 1] -> [1, 32, 1, 1] -> [4, 32, 14, 14]

代码被吃掉了
关注
  • 3
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
极智AI | pytorch改变tensor维度的方法
极智视界
01-02 968
大家好，我是极智视界，本文介绍一下 pytorch改变tensor维度的方法。
pytorch中tensor的底层存储方式，维度变换permute/view/reshape，维度大小和数目
lppfwl的博客
05-13 1078
记录一下pytorch中tensor的底层存储方式，维度变换permute/view/reshape，维度大小和数目。 tensor的底层存储方式 tensor的底层存储是按照行优先的原则存储的，比如： >>import torch >>a=tensor.rand((2,2,3)) >>a tensor([[[0.1345,0.4907,0.8740], [0.4888,0.5481,0.8513]], [[0.1015,0.9427,0.8660], [
Pytorch学习笔记（四）——维度变换
weixin_39433223的博客
05-23 1618
学习目标： 掌握Pytorch 学习内容： 维度变换主要有以下几种方式： view/reshape squeeze/unsqueeze transpose/t/permute expande/repeat (1）torch.view()和torch.reshape() 两者都用于改变tensor的shape，两者功能相同，区别在于torch.view（）是Pytorch0.3版本，torch.reshape（）是Pytorch0.4版本及以上。 a = torch.rand(4,1,28,28) a.s
squeeze（) 和 unsqueeeze()
咖乐部
11-06 613
tensor.squeeze(index) 字面意思：就是在index处，增加一个维度为1的维度； tensor.unsqueeeze(index) ：就是在index处，如果维度为1，就删掉这个维度。如果此处维度不为1，则不操作 注意 比如tensor a 的维度是（2,1,3） a.squeeze(1) 的维度是（2,3），但a的维度仍然是（2,1,3）。就是squeeze和unsqueeze不会对tensor本身产生修改，修改后要赋值给别的变量才能够保存。 如 b = a.squeeze(..
PyTorch 维度变换-Tensor基本操作
最新发布
哒哒哒哒 哒哒
06-11 397
expand/repeat 两者效果完全相同。为例，展示常用的维度变换操作。以如下 tensor。
torch学习笔记之——tensor维度变换
qq_58832911的博客
01-05 6874
torch学习笔记之——tensor维度变换：View 和reshape，squeeze 和unsqueeze，expand 和repeat，transpose和permute。
PyTorch中tensor的维度变换
m0_46483236的博客
03-29 6835
1. 增加维度： 可以使用 unsqueeze(index) 给tensor增加某一个指定位置的维度，tensor的维度从0开始。若index>=0，则表示在第index维插入一个新的维度；若index<0，则表示在倒数第index维插入一个新的维度。 实例： import torch a = torch.randn(8,4,9) b = a.unsqueeze(0) c = a.unsqueeze(1) d = a.unsqueeze(-1) e = a.unsqueeze(..
pytorch：交换tensor的维度
热门推荐
傲笑风的博客
11-19 3万+
在pytorch中， tensor有两个成员函数可以实现维度交换，分别时transpose()和permute() transpose(): 该函数可以交换tensor的任意两个维度，但是该函数一次只有两个参数，即一次只能交换两个维度。 import torch x = torch.randn(8, 3, 5, 4) y = x.transpose(1,2) # 交换第二与第三维度 print(y.shape) 输出： torch.Size([8, 5, 3, 4]) permute(): 该函数可以随
PyTorch中Tensor的维度变换实现
09-18
以下将详细介绍PyTorch中Tensor的维度变换方法。 首先，我们可以使用`torch.Tensor.size()`来查看Tensor的维度。这个方法返回一个Size对象，列出了Tensor的各个轴的长度。例如，在给定的例子中，`a.size()`返回`...
pytorch改变tensor维度
01-02
记得在改变Tensor维度时，始终检查元素总数是否保持一致，以避免数据丢失或错误。此外，查阅PyTorch官方文档（https://pytorch.org/docs/stable/tensors.html）可以获取更多关于Tensor操作的详细信息。
torch的Tensor维度变换
m0_53926478的博客
04-11 3263
pytorch学习 torch的Tensor维度变换 view和reshape功能一样-不变的是数据本身，变维度改变对数据的理解 缩小/扩大维度，正的维度在索引之后插入，负的维度在索引之前插入 例子：给每幅图一个偏置bias 右边扩两次，左边一次，从[32]得到[1 32 1 1 ] 维度扩展：expend/repeat，expend在需要的时候复制数据，节约内存，推荐；repeat复了数据 expend扩展1->N可行，大于1需要指定策略 -1代表维持不变 repeat：函数里的数字都是
Pytorch Tensor维度调换
小帽哥的博客
07-14 1348
permute 如果四个维度表示上节的[batch,channel,h,w] ，如果想把channel放到最后去，形成[batch,h,w,channel]，那么如果使用前面的维度交换，至少要交换两次（先13交换再12交换）。而使用permute可以直接指定维度新的所处位置，更加方便。 示例代码： a = torch.rand(4, 3, 6, 7) print(a.permute(0, 2, 3, 1).shape) 输出结果： torch.Size([4, 6, 7, 3]) —————————
pytorch | pytorch改变tensor维度的方法
m0_57195758的博客
03-26 600
pytorch | pytorch改变tensor维度的方法
Pytorch Tensor维度变换方法
weixin_47552564的博客
08-01 917
注意这种交换使得存储不再连续，再执行一些reshape的操作会报错，所以要调用一下contiguous()使其变成连续的维度。参考：https://blog.csdn.net/weicao1990/article/details/93618136。.torch.reshape()、torch.view()可以调整Tensor的shape。.transpose(dim1, dim2)交换dim1与dim2，进行维度变换。.torch.unsqueeze(index)可以为Tensor增加一个维度。
tensor维度变换
dyh的博客
09-26 714
expand改变了我们对数据的理解方式，但没有增加数据，repeat实实在在增加了数据，两种方法最终的效果是等效的，区别在于expand不会主动复制数据，只会在有需要的时候复制。原为 [b, c, h, w] -> 索引1、3维度交换顺序后为 [b, w, h, c]在a中插入维度指定索引：[-a.dim()-1, a.dim()+1)expand与repeat之间，推荐使用expand。要变回原shape，一定要保证w和h的顺序不乱！新插入一个维度，这个维度的插入不会改变数据本身。要人为跟踪好维度顺序。
【Pytorch入门】Tensor维度变换
qq_46258819的博客
01-25 2804
Pytorch学习笔记——Tensor维度变换 view（）/reshape（） torch.view(arg1,arg2....) 作用：类似于numpy中的resize（）的功能，重构tensor的维度，返回一个有相同数据但不同大小的tensor 简单来讲，就是把原先tensor中的数据按照行优先的顺序排成一个一维数组，然后根据参数组合成其他维度的tensor example: 首先我们构造两个张量a（[1,2,3,4,5,6]）,b（[[1,2,3],[4,5,6]]），对其执行view操作后，输出结
[Deep Learning]——Tensor维度变换
weixin_42067873的博客
09-15 1765
1、view / reshape 不足之处：会丢失维度信息（Lost dim information） import torch import numpy as np #创建Tensor def test(): a = torch.rand(4, 1, 28, 28) print(a.shape) #[4, 1*28*28] print(a.view(4, 1*28*28)) print(a.view(4, 1*28*28).shape) #把b,c,w合到
tensor之维度转换
qq_43894221的博客
07-13 3474
tensor维度交换
深度学习pytorch——Tensor维度变换（持续更新）
2201_76139143的博客
03-17 1987
需要注意的是打平之后的tensor是需要有物理意义的，根据需要进行打平，并且打平后总体的大小是不发生改变的。并且一定要谨记打平会导致维度的丢失，造成数据污染，如果想要恢复到原来的数据形式，是需要靠人为记忆的。现在给出一个tensor——a.shape=torch.Size([4, 1, 28, 28])，打平a.view(4,1*28*28)，此时a.view(4,1*28*28).shape=torch.Size([4, 784])。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值