TensorFlow建立神经网络的固定步骤

TensorFlow 将数值计算表示为计算图。

使用TensorFlow建立神经网络的固定步骤：
	一：定义计算图结构
	二：通过预测值定义损失函数
	三：定义优化器
	四：创建会话（Session）训练网络

---

我们使用Tensorflow实现网络结构： h = ReLU(W * x + b)
计算图如下图所示：

在计算图中包含了TensorFlow的3种元素：
1：变量（variable）
如上图中 W, b
变量就是网络的训练参数，变量可以进行更新和存储。默认情况下，对所有变量自动求导。

2：占位符（placeholder）
如上图中 x
占位符代表运行时的输入数据，占位符要定义输入数据的数据类型和大小（shape）

3：数学计算节点
如上图中 紫的的举行框

---

以下使用上述计算图的代码。
详细讲解使用TensorFlow建立神经网络的固定步骤：

一：定义计算图结构

注释：（一行为单位）
1：导入TensorFlow
2：定义变量b，初始化为0（100行）
3：定义变量W，创建784x100的服从[-1,1]的均匀分布的随机变量W
4：定义占位符x，作为数据的输入，数据的类型为float，大小为 100x784(100张像素个数为784的输入图片)
5：定义计算节点之间的关系，h = ReLU(W * x + b)

二：通过预测值定义损失函数

注释：
1：定义预测值prediction
2：定义数据标签lable
3：定义交叉熵损失函数

三：定义优化器

注释：
1：使用梯度下降算法（GD）最小化损失函数，设置步长为0.5

四：创建会话（Session）训练网络

注释：
1：创建会话sess
2：初始化所有变量
3-5：训练1000次迭代，将数据输入相应的占位符，根据输入数据训练网络，自动调用反向传播算法，计算梯度并更新所有变量值。