ResNext网络结构

参考视频
ResNext相当于ResNet的升级结构,只是更新了block结构。

(一)普通卷积与组卷积

1、假设输入的特征矩阵的channel=4,那么对于每一个卷积核,它的channel要与输入特征矩阵的channel保持一致,也=4;假设输出的特征矩阵的channel=n,那么意味着我们要使用n个卷积核进行处理。
设每个卷积核的高度和宽度都是k,输入特征矩阵的channel是Cin,因为输出特征矩阵的channel=n,因此有n个卷积核。每个卷积核需要的参数个数是:k X k X Cin
普通卷积所需要的参数个数:k X k X Cin X n
在这里插入图片描述2、假设输入的特征矩阵的channel=4,那么对于每一个卷积核,它的channel要与输入特征矩阵的channel保持一致,也=2(因为将卷积核划分成两个组);假设输出的特征矩阵的channel=n,那么意味着我们要使用n个卷积核进行处理。(因为将卷积核划分成两组,那么每组channel=n/2)
设每个卷积核的高度和宽度都是k,输入特征矩阵的channel是Cin,将输入特征矩阵分为g组。因为输出特征矩阵的channel=n,因此每个组的每个卷积核需要的参数个数是:k X k X Cin/g
而每个组需要n/g个卷积核,因此每个组的所有卷积核需要的参数个数是:
k X k X Cin/g X n/g
因为共划分成了g个组,那么组卷积所需要的参数个数:k X k X Cin/g X n/g X g
在这里插入图片描述相当于对我们输入特征矩阵的每一个channel分配了一个channel为1的卷积核进行卷积。

(二)ResNet与ResNext对比

下面三组block模块,它们在数学计算上完全等价。
在这里插入图片描述

左图是ResNet,右图是ResNext,ResNext只是将ResNet的block替换成了组卷积,其准确率就更加提升了。(注意:ResNext只适合与深度>=3的网络)
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值