神经网络的认识（一）神经网络的认识

特征提取

特征提取：我的理解就是将物体数据化，将一个实体尽可能的描述成计算机可以懂得话，就比如定义一个人，姓名、性别、爱好、出生地、出生日期…这样可以给他打足够多的标签，就可以定义他是谁了，这个标签就是特征。

神经网络

使用神经网络有4个步骤

1. 提取问题中实体的特征向量作为神经网络的输入，不同实体可以提取不同的特征向量
2. 定义神经网络的结构，并定义如何从神经网络中的输入得到输出，这个过程就是神经网络的前向传播算法
3. 通过训练数据来调整神经网络参数的取值，这就是训练神经网络的过程
4. 使用训练的神经网络来预测未知的数据

前向传播

看这个图表示了前向传播的过程

1. 输入层对应神经网络的输入
2. 神经网络的连接结构，就是不同节点之间的连接方式
3. 确定每个节点的参数，就是确定W的各种值

这样就可以输入X1和X2通过这个前向传播得到Y。

反向传播算法

在得到一个批次的前向传播结果之后，需要定义一个损失函数来刻画当前的预测值和真实答案之间的差距。然后通过反向传播算法来调整神经网络参数的取值使得差距可以被缩小 。

这个是一个常用的确定上面W值的一种算法

训练神经网络

以上程序实现了训练神经网络的全部过程。从这段程序可以总结出训练神经网络的过程可以分为以下三个步骤 ：

1. 定义神经网络的结构和前向传播的输出结果。
2. 定义损失函数以及选择反向传播优化的算法 。
3. 生成会话（ tf.Session）并且在训练、数据上反复运行反向传播优化算法。

无论神经网络的结构如何变化，这三个步骤是不变的 。