HetConv是分组卷积与逐点卷积的结合，可显著减少计算量，FLOPs减少至原来的1/8到1/3，而精度几乎不变。它通过改变filter尺寸实现异构，对比标准卷积、深度可分离卷积及分组卷积+逐点卷积，HetConv在计算量和识别精度上更具优势。论文链接：https://arxiv.org/abs/1903.04120，pytorch实现：https://github.com/sxpro/HetConvolution2d_pytorch。
1 写在前边的话
HetConv性能：当使用HetConv取代标准卷积之后，FLOPs大概是之前的1/8到1/3，更重要的是精度几乎不变！！！
论文地址：https://arxiv.org/abs/1903.04120
2 HetConv的结构
实质：是分组卷积与逐点卷积结合的产物。具体如下：
对于卷积（标准卷积；深度卷积；分组卷积；逐点卷积）来讲，每一个filter的尺寸是完全一样的，文章中也称之为同构卷积。
所谓异构卷积，也就是说，对于同一个filter来讲，它的尺寸是不一样的，文章中是有两种。
这样讲可能有点抽象，举个例子来体会一下：
假设原有的一个fliter为：3x3xM，HetConv将M中M/P的3x3卷积核尺寸保留，剩余的M-M/P卷积核尺寸变为1x1的，其中P是一个比例系数。
上边讲的只是一个filter，现假设输出的通道
最低0.47元/天 解锁文章
扫一扫
2640
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
