HetConv: Heterogeneous Kernel-Based Convolutions for Deep CNNs

Introduction
本片文章主要提出新的卷积,从DWC,PWC,GWC在到本文的HetConv。本文卷积的优点是与标准的卷积比,HetConv卷积减少参数量,计算量也同时减少。并且将该结构放入到VGG和ResNet中进行测试,得出最后的实验结果。
Model
标准卷积与HetConv卷积的对比,M指的是输入的深度,P指的片段
标准卷积的计算量为:FL s = D0 × D0 × M × N × K × K ;
HetConv的计算量为:
FLk= (Do × Do × M × N × K × K)/P

卷积之间的比较
该图主要说明从深度卷积,逐点卷积再到分组卷积,直到本文提出的HetConv卷积。HetConv结构的filter是0延时,而GWC+PWC或者是DWC+PWC是每个单元都有一个延时。

L层的卷积filter
延时之间的比较
实验部分
数据集使用cifar10,和ImageNet测试,把新提出的结构进行对比。
Cifar10数据集实验
VGG结构对比
从实验中可以得出,P4的结果是最好的,也就是1个33卷积和3个11卷积。且参数量相对比较少
每秒的计算次数的比较
P32指的是输入的通道数为32,P64指的是输入的通道数为63.从图可得,P32的效果最好。
ResNe结果对比
SE指的是Squeeze-and-Excitation

MobileNet测试
MobileNet结果是P32+SE的准确性是最好的,要比只有MobileNet的结构要好很多。

ImageNet数据集测试
VGG实验结果
VGG-16-P4的结果不如P1的结果好。
ResNet-50
ResNet-50 P4的效果要稍微比P1的效果好,而且FLops也要比P1降了很多。
ResNet-34
ResNet-34与ResNet-50相比,ResNet-50的结果要比ResNet要好,

结论:对本文的提出新的结构,在后期的实验过程中,可以尝试使用该卷积的形式。

如有不足,请指正。谢谢

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值