第J7周:对于ResNeXt-50算法的思考

本文为🔗365天深度学习训练营中的学习记录博客
🍖 原作者:K同学啊 | 接辅导、项目定制
🚀 文章来源:K同学的学习圈子深度学习第J6周:ResNeXt-50实战解析K同学的学习圈子

在 ResNeXt 网络中,如果残差单元块的定义中 conv_shortcut=False,那么执行 x = Add()([x, shortcut]) 这个语句时,即使通道数不一致也不会报错,原因如下:

在这种情况下,shortcut 的维度与 x 不同。但是,Add 层在执行计算时会使用广播机制,自动调整两个输入的维度,使它们匹配。这意味着在进行加法操作之前,较小张量(shortcut)的形状会被扩展以匹配较大张量(x)的形状。

具体来说,如果 shortcut 的形状是 (h, w, c1),而 x 的形状是 (h, w, c2),其中 c1 不等于 c2,那么 shortcut 将被自动扩展为 (h, w, c2),从而与 x 的形状相匹配。因此,即使通道数不一致,也能顺利执行加法操作。

总之,Add 层具备自动广播机制,在计算时能够自动调整较小张量的形状以匹配较大张量的形状,因此即使通道数不一致,也不会引发错误。

  • 5
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值