[CV Paper] A practical theory for designing very deep convolutional neural networks

论文阅读：设计深度卷积神经网络的实用技巧理论

综述

网络层数逐渐加深是大势所趋，如何设计高效的更深的网络是目前的问题，盲目的叠加层数并不能取得好的效果。
本文提出两种全新视角的限制约束，使得网络结构变深的同时保证效果。

• 第一：保证每一层卷积层都有学习复杂模式特征的能力
• 第二：最高层的感受野不能大于图片范围

在这两个限制条件下，我们把设计深度卷积神经网络的问题转化为限制条件下的最优化问题

Approach

首先将CNN模型划分为classifier和feature两层结构

本文的设计主要集中在feature level， classifier level设为固定形式。
Feature level最优化问题：

• 限制一：每一层的c值不能太小（c值是度量网络学习能力的一个指标）
• 限制二：卷积层最高层的感受野不能大于图片大小
• 目标：在限制基础上，尽可能的使网络深

设定固定的classifier level:

受到Network in Network 和 GoogleNet的启发，用两层CNN代替以往常用的全连接层，较小的feature map配合较大的kernel size，并经过最大池化，作用类似