【深度学习】 卷积神经网络中的相关知识

卷积神经网络

卷积神经网络（Convolutional neural network），经典的多层感知机是有一系列的全连接层组成，卷积神经网络中除了全连接层以外，还有卷积层和池化层（pooling）。

为什么需要卷积层

多层感知机中的全连接层会导致庞大的参数量，这会有很高的过拟合风险。卷积是局部连接、共享参数版本的全连接层。这样就使参数量大大降低。

卷积层中的权值常常称作滤波器（filter）或卷积核（Convolution kernel）。

局部连接

在全连接层中，每个输出通过权值（weigh）和所有的输入相连。而在视觉识别中，关键性的图像特征、边缘、角点等只占据了图像的一部分，图像中的相距很远的两个像素之间的相互影响的可能性很小。

因此，在卷积层中，每个神经元在通道方向上保持全连接，而在空间方向上只和一小部分输入神经元相连。

共享参数

如果一组权值可以在图像中某个区域提取出有效的表示，那么它们也能在图像的另外区域中提取出有效的表示。也就是说，如果一个模式（pattern）出现在图像中的某个区域，那么它们也可以出现在图像中的其他任何区域。因此，卷积层不同空间位置的神经元共享权值，用于发现图像中不同空间位置的模式。共享参数是深度学习一个重要的思想