【机器学习】关于CNN中1×1卷积核和Network in Network的理解

前天去面某公司的AI部门，被问到了关于1×1卷积核的相关问题，因为之前没有了解过，所以也没有答上来，回来查阅了相关资料，特此总结一番。

1×1的卷积核

卷积核在CNN中经常被用到，一般常见的是3×3的或者5×5的，见下图，这里不多赘述

那么1×1的卷积核，就像上面那样。
一般1×1的卷积核本质上并没有对图像做什么聚合操作，以为就是同一个$w$去乘以原图像上的每一个像素点，相当于做了一个scaling
1×1卷积核最初是在Network in Network这个网络结构中提出来的。它用了比AlexNet更少的参数，达到了跟其一样的效果。

1×1卷积核的作用

那么1×1卷积核有什么作用呢，如果当前层和下一层都只有一个通道那么1×1卷积核确实没什么作用，但是如果它们分别为m层和n层的话，1×1卷积核可以起到一个跨通道聚合的作用，所以进一步可以起到降维（或者升维）的作用，起到减少参数的目的。
比如当前层为 x×x×