池化

池化

     在通过卷积层获得特征(feature map) 之后 ,下一步要做的就是利用这些特征进行整合、分类。理论上来讲,所有经过卷积提取得到的特征都可以作为分类器的输入(比如 softmax 分类器) ,但这样做会面临着巨大的计算量. 比如对于一个 300X300 的输入图像(假设只有一个通道) ,经过 100个 3X3 大小的卷积核进行卷积操作后,得到的特征矩阵大小是 (300 -3+1) X(300 -3+1) = 88804 ,将这些数据一下输入到分类器中显然不好.

     此时我们就会采用 池化层将得到的特征(feature map) 进行降维,假如我们得到一个局部特征,他是一个图像的一个局部放大图,分辨率很大,那么我们就可以将一些像素点周围的像素点(特征值) 近似看待,将平面内某一位置及其相邻位置的特征值进行统计,并将汇总后的结果作为这一位置在该平面的值.

    常见的池化有 最大池化(Max Pooling) , 平均池化(Average Pooling) ,使用池化函数来进一步对卷积操作得到的特征映射结果进行处理。池化会将平面内某未知及其相邻位置的特征值进行统计汇总。并将汇总后的结果作为这一位置在该平面的值。最大池化会计算该位置及其相邻矩阵区域内的最大值，并将这个最大值作为该位置的值，平均池化会计算该位置及其相邻矩阵区域内的平均值，并将这个值作为该位置的值。使用池化不会造成数据矩阵深度的改变，只会在高度和宽带上降低，达到降维的目的。

池化过程

下面以最大池化为例，平均池化原理一样。

 

 

常用的池化函数

 　　Ｔensorflow 提供了几个封装有池化操作的函数，如实现最大池化的　nn.max_pool() 函数，实现平均池化的 nn.avg_pool()函数。

pool(input,window_shape,pooling_type,padding,dilation_rate,strides,name,data_format)
avg_pool(value,ksize,strides,padding,data_format,name) 
max_pool(value,ksize,strides,padding,data_format,name) 
＃ksize 参数提供了过滤器的尺寸，strides 参数提供步长信息
#padding 提供是否使用全０填充 

     以　nn.max_pool() 为例　，首先需要传入当前层的单位矩阵，这个矩阵是四维矩阵(batch_size , 高度，宽度，深度) ,

第二个参数为过滤器（池化核）的尺寸。虽然能够将其赋值为长度为４　的一维数组，但是这个数的第一个数和第四个数必须是１　

。nn.max_pool()　函数的第三个参数是步长。最后一个参数指定了是否使用全０填充。VALD 表示不使用全０　填充。　SAME表示使用全０　填充。

 

池化层的代码实现　

  1 #!/usr/bin/env python
  2 # Author: xiaxiaosheng
  3 # Created Time: 2019年07月31日 星期三 08时49分28秒
  4 
  5 # icoding:utf-8
  6 import tensorflow as tf
  7 import numpy as np
  8 
  9 M = np.array([[[-2],[2],[0],[3]],
 10             [[1],[2],[-1],[2]],
 11             [[0],[-1],[1],[0]]],dtype="float32").reshape(1,3,4,1)
 12 
 13 filter_weight = tf.get_variable("weights",[2,2,1,1],initializer=
 14         tf.constant_initializer([[2,0],[-1,1]]))
 15 biase = tf.get_variable('biases',[1],initializer= tf.constant_initializer(1>
 16 x = tf.placeholder('float32',[1,None,None,1])
 17 
 18 conv = tf.nn.conv2d(x,filter_weight,strides=[1,1,1,1],padding="SAME")
 19 
 20 add_bias = tf.nn.bias_add(conv,biase)
 21