ResNeXt

最新推荐文章于 2023-09-08 10:43:12 发布

KrystalKarlieKarina

最新推荐文章于 2023-09-08 10:43:12 发布

阅读量428

点赞数

分类专栏：论文学习

本文链接：https://blog.csdn.net/LoveKKarlie_/article/details/118440278

版权

ResNeXt是一种深度神经网络结构，结合了ResNet的残差学习和Inception的多分支思想，但避免了Inception的复杂设计。通过分组卷积（group convolution）实现类似Inception的并行路径，每个分支拥有相同的拓扑结构，简化了网络设计，减少了超参数。ResNeXt在ImageNet上表现优于相同框架的ResNet，但可能在某些场景下不如Inception V4。尽管如此，其结构简单且运行效率高，适合GPU加速。

摘要由CSDN通过智能技术生成

Aggregated Residual Transformations for Deep Neural Networks

文章地址https://arxiv.org/abs/1611.05431
代码地址https://github.com/miraclewkf/ResNeXt-PyTorch

在这里插入图片描述
采用VGG/ResNet的重复层策略，同时以简单的、可扩展的方式利用split-transform-merge策略。但是扩展性强。每个被聚合的拓扑结构都是一样的(这也是和 Inception 的差别，减轻设计负担)
multi-branch卷积网络：Inception models，多分枝架构，每个分支仔细定制，ResNet可以被认为是一个分枝网络，其中一个分支是身份映射。
!](https://img-blog.csdnimg.cn/20210703160543328.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0xvdmVLS2FybGllXw==,size_16,color_FFFFFF,t_70)

全连接层： $\sum^D_{i=1}w_is_i$ 。
在这里插入图片描述
Split：将数据 $\bf x$ split成D个特征；
Transform：每个特征经过一个线性变换；
Merge：通过单位加合成最后的输出。
汇总转换： $\mathcal F(x)=\sum^C_{i=1}\mathcal T_i(x)$