信号处理之卷积神经网络结构

信号处理之卷积神经网络结构

        图像特征的提取与分类一直是计算机视觉领域的一个基础而重要的研究方向。卷积神经网络( Convolutional Neural Network，CNN) 提供了一种端到端的学习模型，模型中的参数可以通过传统的梯度下降方法进行训练，经过训练的卷积神经网络能够学习到图像中的特征，并且完成对图像特征的提取和分类。作为神经网络领域的一个重要研究分支，卷积神经网络的特点在于其每一层的特征都由上一层的局部区域通过共享权值的卷积核激励得到。这一特点使得卷积神经网络相比于其他神经网络方法更适合应用于图像特征的学习与表达。

        早期的卷积神经网络结构相对简单，如经典的Le Net-5 模型，主要应用在手写字符别、图像分类等一些相对单一的计算机视觉应用领域中。随着研究的不断深入，卷积神经网络的结构不断优化，其应用领域也逐渐得到延伸。例如，卷积神经网络与深信度网络( Deep Belief Network，DBN)相结合产生的卷积深信度网 络( Convolutional Deep Belief Network，CDBN)作为一种非监督的生成模型，在人脸特征提取得到广泛应用；Alex Net在海量图像分类领域取得了突破性的成果；基于区域特征提取的 R-CNN( Regions with CNN)在目标检测领域取得了成 功;全卷积网络( Fully Convolutional Network，FCN)］实现了端到端的图像语义分割，并且在准确率上大幅超越了传统的语义分割算法。近年来，卷积神经网络的结构研究仍然有着很高的热度，一些具有优秀性能的网络结构不断被提出。

1. 卷积神经网络的基本结构

        CNN的基本结构由输入层、卷积层（convolutional layer）、 池 化 层 （pooling layer）、全连接层及输出层构成。卷积层和池化层一般会取若干个，采用卷积层和池化层交替连接，即一个卷积层连接一个池化层，池化层后再连接一个卷积层，依此类推。由于卷积层中输出特征面的每个神经元与其输入进行局部连接 并通过对应的连接权值与局部输入进行加权求和再加上偏置值，得到该神经元输入值，该过程类似于卷积过程，CNN也由此而得名。