一、卷积神经网络基本概念
卷积神经网络包含了一个由卷积层和子采样层构成的特征抽取器。在卷积神经网络的卷积层中,一个神经元只与部分邻层神经元相连接。在CNN的一个卷积层中,通常包含若干个特征平面,每个特征平面都由一些矩形排列的神经元组成,同一特征平面的神经元共享权重参数,这里共享的权重参数就是卷积核。
卷积核一般由随机小数矩阵的形式初始化,随着神经网络的不断训练,卷积核将会学习到更合理的权值。共享权值(卷积核)可以减少网络各层之间的连接,同时降低过拟合的风险。
子采样也叫做池化(pooling),通常有均值子采样(mean pooling)和最大值子采样(max pooling)两种形式。子采样可以看作一个特殊的卷积过程。卷积和子采样可以简化模型的复杂度,减少模型的参数。
二、卷积神经网络原理
2.1神经网络
神经网络的每个单元如下:
其对应的公式为:
该单元也可以被称作Logistic回归模型。当多个单元组合起来并具有分层结构时,就形成了神经网络模型。下图是一个具有隐含层的神经网络: