ECCV 2020，一种灵活高效的权重生成网络框架

旷视研究院提出一个灵活高效的权重生成网络框架，称为WeightNet。

• 论文题目：
  

  WeightNet: Revisiting the Design Space of Weight Networks

• 论文链接：
  https://arxiv.org/abs/2007.11823

• MegEngine开源：
  

  https://github.com/megvii-model/WeightNet

• 关键词：
  CNN架构设计、权重生成网络、动态滤波器

作为一种通用形式，WeightNet将SENet与CondConv这两种很不一样却都非常有效的方法纳入到同一框架中。WeightNet通过在注意力激活层上添加一层分组全连接层（group fully-connected layer）从而实现了对这两种方案的统一。

WeightNet可以直接输出卷积权重，同时在kernel空间（而非特征空间）上训练起来既简单，内存消耗又少。凭借其灵活性，该方法在ImageNet和COCO的检测任务上均能取得更好的准确率-FLOPs权衡和准确率-参数量权衡。

END

备注：部署

模型压缩与应用部署交流群

模型压缩、网络压缩、神经网络加速、轻量级网络设计、知识蒸馏、应用部署、MNN、NCNN等技术，

若已为CV君其他账号好友请直接私信。

我爱计算机视觉

微信号:aicvml

QQ群:805388940

微博知乎:@我爱计算机视觉

投稿:amos@52cv.net

网站:www.52cv.net

在看，让更多人看到