pytorch学习笔记(六)——pytorch进阶教程之broadcast自动扩展

pytorch学习笔记(六)——pytorch进阶教程之broadcast自动扩展

目录

broadcast的两个特点

broadcast的两个特点:1.能够进行维度的扩展,相当于expand,但是是自动扩展
2.扩展的时候不需要拷贝数据
注意broadcast并不是函数,而是在不同size的tensor之间进行加减操作会自动进行的一种机制

主要思想

在这里插入图片描述
主要思想:1.依次从最后一个维度开始匹配,若前面没有维度则插入一个新的维度,size为1
2.自动调用Expand函数使得维度size相同
假设有如上图的一个feature map,要加上一个bias,把后面的维度理解为小维度,前面的维度理解为大维度。为什么要这么理解呢,我们知道一个四维的tensor可以表示图片,很第一个维度表示图片张数,最后一个维度表示图片的列,很明显前面的维度更为重要,所以理解为大维度。
将两者相加broadcast首先看出两者的dim不一致,对bias插入一个新维度,size为1,在调用expand使得每个维度上与feature map的size一样

原理示例

在这里插入图片描述

存在意义

在这里插入图片描述
从已经学过的知识我们可以知道,broadcast相当于unsqueeze函数和expand函数的配合使用,那么我们为什么要引入broadcast机制呢?主要有两点原因。
1.为了真实需求
假设我们有一份数据存储学生成绩,如图所示。假设有4个班级,每个班32名同学,每个同学8门课[4,32,8],现在要给每个同学每门课都加上5分。由于5是一个标量,如果不引入broadcast,那么要调用多次unsqueeze和expand,把shape变成[4,32,8],实现起来非常麻烦,引入broadcast机制使得自动进行,代码更加简洁。
2.节约内存
broadcast核心是利用expand,只是逻辑上的扩展,并不是实际内存上进行拷贝,从而大大减少了占用内存。

  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值