全连接层与卷积层:
全连接鞥 | 卷积层 |
---|---|
全连接层是使用图像的全局信息,全连接层的权重是固定的,要求输入的feature map的大小也有要求,所以网络开始输入图像的大小要固定。全连接层的每一个节点都有上一层的所有节点相连。 | 卷积层取局部特征,不需要固定输入的大小,因为它是对局部区域进行窗口滑动。 |
例如:feature map大小3 * 3 * 2,有12个像素点,那么就需要将其转换成12*1的列向量,对于要乘的权重,形式应该为1 * 12,经过全连接层后的输出就是1 * 1.(可存在多权重,一个权重一行,输出为n * ( 1 * 1 )) | 例如:输入提箱是32 * 32 * 3,卷积层为一个5 * 5 * 3的filter(深度需要相同,可多个filter),通过filter后可得一个28 * 28 * 1的特征图。 |
卷积层优点:
1、卷积层可以多尺度,全连接层必须限制输入图像的大小。
2、卷积层在某些情况下更高效。
所以有了卷积层代替全连接层的想法,