毕业设计-卷积神经网络分类器的设计及实现【源码+文章】可定制

一、实验目的 3
二、实验方法 3
三、实验环境 5
四、数据集简介 6
五、实验步骤 8
六、实验结果 10
七、分类器评估 11
八、实验总结 12
一、实验目的
分类器设计是机器学习的主要研究方向，在大数据、人工智能领域应用广泛，分类模型可以将数据库中的数据映射到所属类别之一，继而可以应用于新的数据预测。随着研究的发展，机器学习领域不断涌现出新的分类器方法，从早期的决策树、近邻法，到支持向量机、神经网络等，这些方法都已先后在具体领域中得到有效使用。
分类器的设计使用主要分为三个步骤，首先选择样本数据集，将所有样本分成两部分，训练样本和测试样本。然后选择一个分类器，在训练样本上运行分类器算法，生成分类模型。最后用测试样本对分类模型进行预测评价，来衡量分类器效果。
衡量一个分类器的优劣主要有两个标准：分类准确率与泛化能力。以支持向量机（Support Vector Machine，SVM）为代表的分类器是典型的传统分类器方法，在人像识别、手写字符识别等分类识别任务中使用最早。而该类方法在进行识别时需要繁琐的特征构造，且手工的特征提取往往会削弱模型的泛化能力，很大程度限制了这些分类器的发展。与此同时，由于大数据和硬件计算能力的驱动，目前基于卷积神经网络的分类器方法受到更多关注。
卷积神经网络（Convolutional Neural Networks，CNN）是一种包含卷积计算且具有深度结构的前馈神经网络，是一种通过对样本数据底层特征的抽象组合来表达其内在规律的机器学习方法。CNN使用卷积运算代替一般矩阵乘法来实现特征提取，同时CNN具有局部感知与参数共享两大特点，这两点与图像的特征的局部性和重复性完美贴合，使CNN在图像分类识别领域有出色表现。
因此本文将选择卷积神经网络作为分类器设计方法，通过对手写数字图像进行分类识别来实现分类器。
二、实验方法
1、卷积神经网络分类器结构
图1为卷积神经网络一般结构，CNN在LeNet-5模型提出后，其组成结构被基本确定，网络一般由输入层、卷积层、池化层、全连接层、输出层组成。

输入层、输出层作为首尾用于图像数据输入与结果输出表示，中间部分通常采用多组卷积层和池化层交替结构进行特征提取，在输出层前的几级网络通常设为全连接层，全连接层对前面所提特征进行非线性拟合将特征空间映射到标记空间，最终结果传给输出。下面对卷积神经网络分类器的具体组成结构进行简单介绍。
① 输入层
该层的主要处理是对原始图像数据进行预处理，这包括平均化，即将输入数据的所有维度居中为0，目的是将样本的中心返回到坐标的原点；归一化，即将幅度归一化到相同的范围内，减少各维度数据的取值范围不同带来的干扰。
② 卷积层
卷积神经网络中每层卷积层由若干卷积单元组成，卷积运算把输入图像看作是一个n维矩阵，然后拿一个m*m维卷积核从左至右、从上之下进行"扫描"，每当移动到一个窗口后和对应的窗口做卷积运算即对应元素相乘之后加求和，计算过程如下图所示。

卷积操作的目的是提取输入的各种特征。第一个卷积层可能只提取一些低级特征，例如边缘、线条和角点。网络的更多层可以从较低级别的特征中迭代地提取更复杂的特征。卷积计算结果将再通过非线性函数计算进行非线性映射输出从而实现分类器的非线性过程。
③ 池化层
池化层夹在连续的卷积层中间，用于压缩数据和参数的量，减小过拟合，池化层的最主要作用就是压缩图像，池化层用的方法有最大值池化和均值池化。
④ 全连接层
该层相当于多层感知机，其在整个卷积神经网络中起到分类的作用，通过前面多个“卷积-激活-池化”层的处理，待处理的数据特性已有了显著提高，全连接层输入的数据经过反复提纯过的结果，因此输出的分类品质要高得多。
2、卷积神经网络分类器训练方法
CNN在本质上是一种输入到输出的映射，它能够学习大量的输入与输出之间的映射关系，而不需要任何输入和输出之间的精确的数学表达式，只要用已知的模式对卷积网络加以训练，网络就具有输入输出对之间的映射能力。具体训练过程如下：
① 选定训练组，从样本集中分别随机地寻求N个样本作为训练组；
② 将各权值、阈值，置成小的接近于0的随机值，并初始化精度控制参数和学习率；
③ 从训练组中取一个输入模式加到网络，并给出它的目标输出向量；
④ 计算出中间层输出向量，计算出网络的实际输出向量；
⑤ 将输出向量中的元素与目标向量中的元素进行比较，计算出输出误差；对于中间层的隐单元也需要计算出误差；
⑥ 依次计算出各权值的调整量和阈值的调整量；
⑦ 调整权值和调整阈值；
⑧ 当经历M后，判断指标是否满足精度要求，如果不满足，则返回(3)，继续迭代；如果满足就进入下一步；
⑨ 训练结束，将权值和阈值保存在文件中。这时可以认为各个权值已经达到稳定，分类器已经形成。再一次进行训练，直接从文件导出权值和阈值进行训练，不需要进行初始化。
根据以上结构原理，本文设计的卷积神经网络分类器由输入层、三组卷积、输出层构成，如下图所示：
图3 本文设计的卷积神经网络分类器结构