Tensorflow笔记之训练神经网络模型

 首先在前面的笔记中已经实现了通过Tensorflow变量来表示神经网络参数。现在学习使用监督学习的方式来更合理的参数设置参数取值。首先使用监督学习的方式设置神经网络参数需要有一个标注好的训练数据。以判断零件合格为例，标注好的训练数据集就是收集一批合格和一批不合格的零件。

     监督学习最重要的思想就是，在已知答案的标注数据集上，模型给出的预测结果要尽量接近真实值。通过调整神经网络中的参数对训练数据进行拟合，可以使模型对未知的样本提供预测能力。其中在神经网络优化算法中，最常用的方法是反向传播算法（backpropagation）。具体流程如下图所示：

从上图可以看出，反向传播算法是一个迭代过程，每次迭代开始首先要选取一小部分训练数据，这一小部分数据叫一个bitch。