计算机视觉——主干网络的学习笔记

2 备注

2.1 将 Feature Map变换成一维向量的方式？

1. Flattening；将Feature Map直接平铺展开成一维向量；

2. Global Avg Pooling压缩；

使用GAP的优点：

1. 可以限定输出向量的长度；这个优点是Flattening所不具备的，这个特点在构造输入尺寸无关的CNN网络中有重要的应用；

2. 可以进行特征压缩；使用平均池化，对每个通道的特征图进行压缩，从而生成Cx1的一维向量，从而减小特征图的尺寸，可以起到减少计算量的效果；

3. 今天看到有同学在群里面问关于GAP效果的理解，我就思考了一下，我以前一直不太明白GAP跟 Max Pooling之间的区别，从计算角度来看，不过GAP是“”求均值，而 Max Pooling是求最大值，但是从老师们给我感觉来看，两者的效果还是不太相同的；虽然GAP和 Max Pooling都有在感受野内提取特征的效果，但是GAP其实更有一种“加权平均”的感觉，虽然这里的权值固定都是1，但是我感觉某种程度上GAP还是比 Max Pooling具有更强的邻域特性，因为从根本上来说，GAP是一种“特征融合”的方式，而 Max Pooling其实是一种特征选择的方式，所以这样设计思路的不同，会使得GAP在CNN的设计上往往具有更好的应用；

因为GAP“特征融合”的效果会使得他具有更强的邻域信息的提取能力，能够融合多个特征从而提取出更加丰富的信息；

另外，从 heat map的的直观感受，我们就可以知道，其实 Feature Map的图像往往是类似于热力图一样，像素点值会比较接近，较为连续的图像；