神经网络初理解

训练神经网的过程可以分为以下三个步骤：

1、定义神经网络的结构和前向传播的输出结果

2、定义损失函数以及选择反向传播优化算法

3、生成会话（tf.Session）并且在训练数据上反复运行反向传播优化算法

 

神经网络的结构：

目前主流的神经网络都是分层的结构，第一层是输入层，代表特征向量中每一个特征的取值。同一层的节点不会相互连接，而且每一层只和下一层连接，直到最后一层作为输出层得到计算结果。在输入层和输出层之间的神经网络叫做隐藏层，一般一个神经网络的隐藏层越多，这个神经网络越深。而所谓深度学习中的“深度”和神经网络的层数也是密切相关的。

 

前向传播：