介绍1*1卷积核作用,为谷歌Inception做铺垫。
首先在不考虑卷积核数量的情况下,1*1卷积增加了非线性。
在CNN中,假设有一个28×28×192的输入层,可以使用池化层压缩它的高度和宽度。但如果通道数量很大,该如何把它压缩为28×28×32维度的层呢?你可以用32个大小为1×1的过滤器,严格来讲每个过滤器大小都是1×1×192维,因为过滤器中通道数量必须与输入层中通道的数量保持一致。但是你使用了32个过滤器,输出层为28×28×32,这就是压缩通道数Nc的方法,对于池化层我只是压缩了这些层的高度和宽度。
若卷积核数量如果与输入保持相同,则单纯地向网络增加非线性。
总得来说,1*1卷积核在增加网络非线性的同时,可以调整该层通道的数量,巧妙地利用1*1卷积可以大大地压缩参数并减少计算量。