pytorch中expand和repeat的区别

最新推荐文章于 2024-05-08 21:33:38 发布

sinat_24674017

最新推荐文章于 2024-05-08 21:33:38 发布

阅读量752

点赞数 2

分类专栏： pytorch 文章标签： pytorch 深度学习 python

本文链接：https://blog.csdn.net/sinat_24674017/article/details/120238318

版权

pytorch 专栏收录该内容

2 篇文章 0 订阅

订阅专栏

本文深入探讨了PyTorch中`expand`和`repeat`两个操作的区别。`expand`用于在不改变数据的情况下扩展张量的维度，而`repeat`则会复制张量的数据来创建新张量。`expand`在增加低维度时可以复制数据，但高维度参数需与原始张量匹配；`repeat`则可在任意维度复制数据，返回的张量拥有独立的存储区。这两个操作在处理张量维度扩展和复制时具有不同的适用场景。

摘要由CSDN通过智能技术生成

expand

import torch
a = torch.Tensor([[1,2,3]])
'''
tensor(
	[[1.,2.,3.]]
)
'''

aa = a.expand(4, 3) # 也可写为a.expand(4, -1) # 对于某一个维度上的值为1的维度，可以在该维度上进行tensor的复制，若大于1则不行
'''
tensor(
	[[1.,2.,3.],
	[1.,2.,3.],
	[1.,2.,3.],
	[1.,2.,3.]]
)
'''

a = torch.Tensor([[1,2,3], [4, 5, 6]])
'''
tensor(
	[[1.,2.,3.],
	 [4.,5.,6.]]
)
'''
a = a.expand(4,6) # 最高几个维度的参数必须和原始shape保持一致，否则报错
'''
RuntimeError: The expanded size of the tensor (6) must match the existing size (3) at non-singleton dimension 1.
'''

aa = a.expand(1,2,3) # 可以在tensor的低维增加更多维度
'''
tensor(
	[[[1.,2.,3.],
	 [4.,5.,6.]]]
)
'''
aaa = a.expand(2,2,3) # 可以在tensor的低维增加更多维度，同时在新增加的低维度上进行tensor的复制
'''
tensor(
	[[[1.,2.,3.],
	 [4.,5.,6.]],
	 [[1.,2.,3.],
	 [4.,5.,6.]]]
)
'''

aaa = a.expand(2,3,2) # 不可在更高维增加维度，否则报错
'''
RuntimeError: The expanded size of the tensor (2) must match the existing size (3) at non-singleton dimension 2.
'''

aaaa = a.expand(2, -1, -1) # 最高几个维度的参数可以用-1，表示和原始维度一致
'''
tensor(
	[[[1.,2.,3.],
	 [4.,5.,6.]],
	 [[1.,2.,3.],
	 [4.,5.,6.]]]
)
'''

print(aaaa.storage()) # 存储区的数据，说明expand后的a,aa,aaa,aaaa是共享storage的，只是tensor的头信息区设置了不同的数据展示格式，从而使得a,aa,aaa,aaaa呈现不同的tensor形式
'''
1.0
2.0
3.0
4.0
5.0
6.0
'''

repeat

import torch
a = torch.Tensor([[1,2,3]])
'''
tensor(
	[[1.,2.,3.]]
)
'''

aa = a.repeat(4, 3) # 维度不变，在各个维度上进行数据复制
'''
tensor(
	[[1.,2.,3.,1.,2.,3.,1.,2.,3.],
	 [1.,2.,3.,1.,2.,3.,1.,2.,3.],
	 [1.,2.,3.,1.,2.,3.,1.,2.,3.],
	 [1.,2.,3.,1.,2.,3.,1.,2.,3.]]
)
'''

a = torch.Tensor([[1,2,3], [4, 5, 6]])
'''
tensor(
	[[1.,2.,3.],
	 [4.,5.,6.]]
)
'''
aa = a.repeat(4,6) # 维度不变，在各个维度上进行数据复制
'''
tensor(
	[[1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.],
	 [4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.],
	 [1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.],
	 [4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.],
	 [1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.],
	 [4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.],
	 [1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.,1.,2.,3.],
	 [4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.,4.,5.,6.]]
)
'''

aaa = a.repeat(1,2,3) # 可以在tensor的低维增加更多维度，并在各维度上复制数据
'''
tensor(
	[[[1.,2.,3.,1.,2.,3.,1.,2.,3.],
	  [4.,5.,6.,4.,5.,6.,4.,5.,6.],
	  [1.,2.,3.,1.,2.,3.,1.,2.,3.],
	  [4.,5.,6.,4.,5.,6.,4.,5.,6.]]]
)
'''
aaaa = a.repeat(2,3,1) # 可以在tensor的高维增加更多维度，并在各维度上复制数据
'''
tensor(
	[[[1.,2.,3.],
	  [4.,5.,6.],
	  [1.,2.,3.],
	  [4.,5.,6.],
	  [1.,2.,3.],
	  [4.,5.,6.]],
	 [[1.,2.,3.],
	  [4.,5.,6.],
	  [1.,2.,3.],
	  [4.,5.,6.],
	  [1.,2.,3.],
	  [4.,5.,6.]]]
)
'''

aaaaa = a.repeat(2, 3, -1) 
'''
RuntimeError: Trying to create tensor with negative dimension -3: [2,6,-3]
'''

print(aaaa.storage()) # 存储区的数据，说明repeat后的a,aa,aaa,aaaa是有各自独立的storage的
'''
1.0
2.0
3.0
4.0
5.0
6.0
1.0
2.0
3.0
4.0
5.0
6.0
1.0
2.0
3.0
4.0
5.0
6.0
1.0
2.0
3.0
4.0
5.0
6.0
1.0
2.0
3.0
4.0
5.0
6.0
1.0
2.0
3.0
4.0
5.0
6.0
'''

总结

相同：
（1）都可以扩展维度，或在某个维度上进行tensor的复制

区别：
（1）参数意义不同，repeat的参数表示沿某维度的数据复制倍数，可为大于0的任何整数值；expand的参数表示tensor对应的维度上的值，且只有增加新的低维度时表示沿该低维度的数据复制倍数，其他参数必须和原始tensor保持一致
（2）返回的结果的存储区不同，repeat返回的tensor会重新拥有一个独立存储区，而expand返回的tensor则与原始tensor共享存储区