多维度Tensor的求和含义理解

from Torch-cam

# Perform the weighted combination to get the CAM
	cam = torch.nansum(weight * activation, dim=1)

其中,activation : torch.size([1, 2048, 7, 7]),weight : torch.size([1, 2048, 1, 1]),
from chatgpt :
This is the sum operation along the specified dimension (dim=1). The dim=1 indicates that the sum is taken along the second dimension (0-indexed) of the tensor, which is the channel dimension. This means that the sum is calculated independently for each channel, resulting in a tensor with reduced dimensionality along the channel axis.

所以这里求和是把每一个channel当作独立的,对这么多channel(2048)进行求和,所以求和结果其余维度保持不变,是torch.size([1, 7, 7]);

还有一个问题,为什么weight后面的形状是[1, 1],也可以和之前activation的[7, 7]来相乘;
因为torch有Broadcasting机制,注意这里是元素相乘(element-wise multiple)不是矩阵乘法;

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值