前面我们分析了CNN的经典网络模型,在此对CNN设计的一些技巧做一些总结。
1、避免遇到瓶颈
HxW逐渐变小
C逐渐变大
缓慢!
2、计算量控制(卷积核控制)
减小计算量我们可以改变的因素有
输入特征数量(但是一般不好控制)
输出的特征(与分类有关)
卷积核(我们需要去改变的)
A考虑小卷积表达大卷积等方法。
B考虑11降维再33
C并联
3、感受视野要足够大
这样才能捕捉更大尺寸的内容,为此考虑可以用小卷积和来表达大卷积核。这样既能降低参数,提高视野,而且还用了更多的非线性激活。
4、通道拆分并联
关键词:
卷积的视野
计算量、参数量
网络的表现能力