最简单的神经网络内部计算原理理解

最简单的神经网络内部计算原理理解

下面使用到的，是一个具有两个输入节点，以及两个输出节点的极简神经网络。

层1 是输入节点，这层的节点只是展示输入值的功能，不做其他计算。

从输入层到输出层之间总共有四种连接方式（即上面四个绿色箭头），首先，随机初始化这四个连接的权重。权重是神经网络进行学习的内容，这些权重持续进行优化，得到越来越好的结果。

对于第二层输出层，这一层的每个节点，都需要计算出组合输入，即原始输入分别乘以相应的权重并相加，得到的组合输入。然后，利用激活函数，例如sigmoid函数：

$$y=\frac{1}{1+e^{-}x}$$
注意，激活函数中的x指的就是输出层得到的组合输入。通过激活函数计算得到的结果就是输出层要输出的内容。

上面的层二（输出层）的计算过程如下图所示：

所以根据上面神经网络定义的输入以及各连接权重，最终的结果如下所示：

不管有多少层神经网络，都“一视同仁”，即组合输入信号，应用连接权重调节这些输入信号，应用激活函数，生成这些层的输出信号。