常规卷积
卷积可以对数据进行特征提取,比如在上图中,对于一张大小为32×32的彩色狗狗图像而言,采用6组卷积核对这张彩色照片进行特征提取。
从设计思路上讲,希望提取到的6个特征为狗狗的眼睛,耳朵,鼻子,尾巴,四肢,躯干。
但是光使用这6个卷积并不能做到这种程度,输出的6个通道中,可能某一通道同时包含了耳朵和尾巴的信息,或者其他混合信息。
因此,需要许多组卷积核进行特征提取,并且重复多次,以期望能有一组卷积核可以完整的提取狗狗的耳朵的信息。
1×1卷积
1×1卷积与常规的卷积就有所不同了,他完成的不是特征提取的功能,而是实现特征图的升维与降维操作。
从神经网络中截取某一步的输出,8×8×32的特征图,对其采用两组大小为1×1×32的卷积核进行卷积,将得出的结果拼接为一个8×8×2的特征图。于是,我们通过使用两个1×1的卷积核,完成了从32维通道数降为2维通道数的操作。
同样,升维也是类似的,只需要我们采用64组1×1×32的卷积核对8×8×32的特征图进行卷积,将结果拼接起来。那么,我们会得到升维后的8×8×64维的特征图。