20210924:Trick篇-ANTNets

论文：ANTNets: Mobile Convolutional Neural Networks for Resource Efficient ImageClassificat

论文： https://arxiv.org/abs/1904.03775

代码： https://github.com/yyxiongzju/ANTNets

代码：GitHub - dhananjaisharma10/ANTNet: A PyTorch implementation of ANTNet

Trick:

可以使用ant_block替换mobilenetv2中的IRB模块

出发点

深度分离卷积是一种比标准卷积更有效的计算单元，但会导致模型的表达能力降低。

ANTBlock

ANTBlock采用了残差模块的架构，在MobileNetV2的Inverted Residual Block（IRB）的基础上进行改进。

1：在depthwise卷积后添加了一个SE模块

2：最后一个1x1卷积为组卷积形式

e-ANTBlock

作者在ANTBlock的基础上提出了一种扩展版本：e-ANTBlock

上面的模块是比较简单的，就是在一个残差模块中又多添加了一个分支。有点重参数思想【即rep系列，rep-vgg】

参考：ANTNet|端侧架构，精度速度双超MobileNetV2 - 云+社区 - 腾讯云

上面参考连接里面提到的SE位置，确实是需要思考的点。先记录下来，后面探索一下再回来补上。