tensorflow全连接网络结构的前向传播算法简单示例

• 神经元
  神经元是构成一个神经网络的最小单元。一个神经元有多个输入，一个输出。神经元的输入既可以是其他神经元的输出，也可以是整个神经网络的输入。所谓神经网络的结构指的是不同神经元之间的结构。一个最简单的神经元结构的输出就是左右输入的加权和。而不同输入的权重就是神经元的参数。神经网络的优化过程就是优化神经元中参数取值的过程。神经元的结构如下图：
• 全连接神经网络

  • 之所以成为全连接神经网络是因为相邻的两层之间任意两个节点之间都有连接。
  • 计算神经网络的前向传播结果需要三部分信息。第一部分是神经网络的输入；第二部分是神经网络的结构；第三部分是每个神经元的参数。
  • 一个简单的例子使用tensorflow演示一下全连接神经网络，示例完整代码在https://github.com/xzccfzy/tensorflow_nn.git：
    对模拟的数据运用tensorflow进行训练神经网络解决二分类问题：
    则前向全连接神经网络的结构可以用下图表示：