华为提出DyNet：动态卷积

点击上方“小白学视觉”，选择加"星标"或“置顶”

重磅干货，第一时间送达

本文转自 | 视觉算法

背景

《DyNet: Dynamic Convolution for Accelerating Convolutional Neural Networks》是华为挂出的论文，其核心思想和谷歌的CondConv类似，产生kernel的方式有细微的不同，同时也取得了很高的性能涨点。

论文地址：http://de.arxiv.org/abs/2004.10694

一、 研究动机：

该论文利用了动态卷积来做神经网络的加速。该文章对activation进行了协方差的分析和可视化，从而提出了Coefficient prediction模块和Dynamic generation模块来产生动态卷积。相比于标准卷积，相同的通道数下，动态卷积的性能有明显的提升。

二、研究方法

整体思路如图所示：