CS231N【11】卷积和池化

前言

会开始陆续更新关于cs231n的学习笔记，作为个人记录也供大家参考。这一系列从CS231N【11】卷积和池化开始。

1. 全连接层 Fully Connected Layer

将32323的图片展开成3072*1的向量，然后再和weights做点积运算，图里解释了输出的是什么。

2. 卷积层 Convolution Layer

卷积层的本质是filter在图片上进行采样，也就是不断滚动着和图片的部分进行点积运算以得到图片的局部信息。

在这里的卷积层是由多个filter组成的。比如一个5 * 5 * 3的filter应该产生一个28 * 28 * 1的map，在这里用6个filter就产生了28 * 28 * 6的结果。

ConvNet的本质就是由多个卷积层组织的序列，然后再用激活函数逐一处理。它们是一些从简单到复杂的特征序列。整个网络结构就是一张图片不断经过很多层的处理，第一个是卷积层，然后一般会添加一个非线性层，比如RELU,接下来会用到池化层，大大降低了activation map的采样尺寸，最后用全连接层连接所有的卷积输出。
先解释一下步长stride的概念：就是filter每次在图片上移动的距离。

然后就是计算output的公式:

假设图片原尺寸是 N * N ,Filter的尺寸是 F * F，步长为stride，那么output的尺寸就应该是 $$(N-F)/stride+1$$

如果图片进行了padding，则要将N加上相应的值。

最后说一下，当使用更大的步长时，得到的也是一个降采样之后的图片，可以说是一种池化处理，不过有时候又比池化更好。