池化层(Pooling layer)
池化层干一件事:将特征图进行浓缩
两种方法:一种是max方法,一种是mean方法,
max方法做的事就是在特征图中选定一个区域,选取里面的最大值,然后放在pooling的结果中
mean方法就是在特征图中选定一个区域,求这个区域的均值,然后放在pooling的结果中
这里面不存在权重参数w
max方法:
mean方法就是把求max换成求mean
卷积神经网络前向传播框架:
通常conv+relu是一个整体,卷积完成后,在加一层激活函数
最后的一个池化层pooling链接的是一个全连接层(FC),得到特征向量。
全连接层:
全连接到底是一个什么鬼?
说白了就是用所有的w与全连接的输入进行加权求和,得到的一维向量
其中,x1、x2、x3为全连接层的输入,a1、a2、a3为输出,根据我前边在笔记1中的推导,有
可以写成如下矩阵形式:
这里的w是每一行内的每一个,每一列内的每一个,全部的w都与全部的输出有关系,所以叫做全连接层。