11卷积过滤器 和正常的过滤器一样,唯一不同的是它的大小是11,没有考虑在前一层局部信息之间的关系。最早出现在 Network In Network的论文中 ,使用11卷积是想加深加宽网络结构 ,在Inception网络( Going Deeper with Convolutions )中用来降维.
由于33卷积或者55卷积在几百个filter的卷积层上做卷积操作时相当耗时,所以11卷积在33卷积或者55卷积计算之前先降低维度。
那么,11卷积的主要作用有以下几点:1、降维( dimension reductionality )。比如,一张500 * 500且厚度depth为100 的图片在20个filter上做11的卷积,那么结果的大小为50050020。
2、加入非线性。卷积层之后经过激励层,1*1的卷积在前一层的学习表示上添加了非线性激励( non-linear activation ),提升网络的表达能力;