1*1 卷积有什么作用或者好处

作者：东东
链接：https://www.zhihu.com/question/56024942/answer/154291405
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

1*1卷积过滤器 和正常的过滤器一样，唯一不同的是它的大小是1*1，没有考虑在前一层局部信息之间的关系。最早出现在 Network In Network的论文中 ，使用1*1卷积是想加深加宽网络结构 ，在Inception网络（ Going Deeper with Convolutions ）中用来降维，如下图：

<img src="https://pic4.zhimg.com/v2-0f4430c2c6b79df077ffbe6957f0a99f_b.png" data-rawwidth="300" data-rawheight="305" class="content_image" width="300">

由于3*3卷积或者5*5卷积在几百个filter的卷积层上做卷积操作时相当耗时，所以1*1卷积在3*3卷积或者5*5卷积计算之前先降低维度。

那么，1*1卷积的主要作用有以下几点：

1、降维（ dimension reductionality ）。比如，一张500 * 500且厚度depth为100 的图片在20个filter上做1*1的卷积，那么结果的大小为500*500*20。

2、加入非线性。卷积层之后经过激励层，1*1的卷积在前一层的学习表示上添加了非线性激励（ non-linear activation ），提升网络的表达能力；