深度学习(Tensorflow)之卷积神经网络(CNN)--mnist数据库

1、MNIST数据库特点

MNIST手写数字数据库具有60,000个示例的训练集和10,000个示例的测试集。它是NIST提供的更大集合的子集。数字已经过尺寸标准化，并以固定尺寸的图像为中心。
对于想要在真实数据上尝试学习技术和模式识别方法，同时在预处理和格式化方面花费最少的人来说，它是一个很好的数据库。

MNIST 数据集包含了四个部分：
train-images-idx3-ubyte：training set images
train-labels-idx1-ubyte：training set labels
t10k-images-idx3-ubyte：test set images
t10k-labels-idx1-ubyte：test set labels

MNIST 数据集来自美国国家标准与技术研究所, National Institute of Standards and Technology (NIST). 训练集 (training set) 由来自 250 个不同人手写的数字构成, 其中 50% 是高中学生, 50% 来自人口普查局 (the Census Bureau) 的工作人员。 测试集(test set) 也是同样比例的手写数字数据。
所以我觉得MNIST 数据集可以保证数据多样性，让机器学习有更好的结果。
详细请看：MNIST数据库

2、原理

卷积神经网络的训练过程分为两个阶段。第一个阶段是数据由低层次向高层次传播的阶段，即前向传播阶段。另一个阶段是当前向传播得出的结果与预期不相符时，将误差从高层次向底层次进行传播训练的阶段，即反向传播阶段。
训练过程为：
1、网络进行权值的初始化；
2、输入数据经过卷积层、下采样层、全连接层的向前传播得到输出值；
3、求出网络的输出值与目标值之间的误差；
4、当误差大于我们的期望值时，将误差传回网络中，依次求得全连接层，下采样层，卷积层的误差。当误差等于或小于我们的期望值时，结束训练。
5、根据求得误差进行权值更新。然后再进入到第二步。

卷积神经网络的层级结构：
• 数据输入层/ Input layer
• 卷积计算层/ CONV layer
• ReLU激励层 / ReLU layer
• 池化层 / Pooling layer
• 全连接层 / FC layer

1、数据输入层

主要是对原始图像数据进行预处理