5.29

Drop an Octave: Reducing Spatial Redundancy in Convolutional Neural Networks with Octave Convolution

Facebook AI, National University of Singapore, Qihoo 360 AI Institute

本文针对传统CNN模型中普遍存在的空间冗余问题，提出了一种新颖的Octave Convolution运算，分别存储和处理低频和高频特征，提高了模型的效率。Octave卷积具有足够的通用性，可以代替常规的卷积运算，可以在大多数二维和三维CNNs中使用，无需调整模型结构。除了节省大量的计算和内存外，Octave Convolution还可以通过在低频段和高频段之间进行有效的通信，增大接收域的大小，从而获得更多的全局信息，从而提高识别性能。我们在图像分类和视频动作记录方面进行了广泛的实验验证了我们的方法在识别性能和模型效率之间取得更好权衡的优越性。

该种卷积的卷积核参数不变，主要是通过压缩低频率feature的大小来减少计算量，因为作者认为低频率特征主要是存储global信息，可以使用小分辨率。消融实验在2D、3DCNN上进行。

（论文分析模板：项目组、解决问题，实验成绩，原因分析，改进措施，损失函数，训练过程，优缺点分析。）