多维矩阵乘积运算和对应的广播机制

神经网络中的多维矩阵乘积运算:
![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/5eba4ad75e0a46938e92b671e66e4632.png

遵循的原则是: 两张量前两维度应该是相同的,如果不同则其中一张量维度为1。

如果有论文中有遇到矩阵乘积的两项维度不一致,那就考虑它计算时是使用了广播机制(如YOLACT)。
例如:
tensor1 = torch.randn(2, 3, 4, 5) # 2x3x4x5
tensor2 = torch.randn(2, 1, 5, 6) # 2x3x5x6

所有大于二维的,最终都是以二维为基础堆叠在一起的!! 所以在矩阵运算的时候,其实最后都可以转成我们常见的二维矩阵运算。

例子:四维*四维
比如a:shape=[2,1,4,5],b:shape=[1,1,5,4]相乘,输出的结果中,前两维保留的是[2,1],最终结果shape=[2,1,4,4]

后两维[4,4]理解为利用a中shape[4,5]的矩阵乘b中shape[5,4]的矩阵得到。得到的乘积结果前面的维度为[2,1]的原因是:a前面的维度为[2,1],但b只有[1,1],所以看成b进行了广播得到,但前面的维度满足用广播机制的前提就是有一个维度为1。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值