卷积神经网络层次结构包括:
数据输入层/ Input layer
卷积计算层/ CONV layer
激励层 / ReLU layer
池化层 / Pooling layer
全连接层 / FC layer
输入层(Input layer)
输入数据,通常会作一些数据处理,例如:
去均值:把输入数据各个维度都中心化到0
归一化:幅度归一化到同一范围
PCA/白化:用PCA降维,白化是在对数据每个特征轴上的数据进行归一化。
卷积计算层(CONV layer)
如上图图所示,左边为数据集,右边为一个神经网络
窗口:卷积计算层会在数据集上选定一个窗口,从窗口内选择数据
深度(depth):如下图所示,左边的数据集深度为3,右边的神经网络深度为5(有五个神经元)
步长(stride):窗口每次移动的距离
填充值(zero-padding):因为窗口移动到数据边缘时,可能不能正好遍历完所有数据,所以有时要在数据集周边填充上若干圈全为0的数据