神经网络的表示

注，本文是在学习吴恩达老师（Andrew Ng）网易公开课课程的的学习总结和理解，希望与君共勉！

前面讲述了神经网络的概览，本章主要讲述神经网络每个部分的表示的是什么。神经网络如图所示：

1.  第一层是输入层，第二层是隐藏层，第三层是输出层，输出预测值y帽。

2.  在一个神经网络中，当你使用监督式学习训练他的时候，训练集包含了输入x还有目标输出y，因此隐藏层的含义是，在训练集中，这些中间节点的真正数值我们并不知道，在训练集你看不到他们的数值。你能看到输入层还有输出层的值，但是你看不到中间隐藏层的值。

3.  再引入几个符号的含义,之前用x表示输入值，输入特征的值还有另外一种表示用a^[0]来表示，a也表示激活的意思，他表示网络中不同层的值会传递到下一层网络。并不是所有的神经元都产生输出，传导到下一层，只有满足一定条件的的神经元才会产生输出会传导下一层。隐藏层同样会产生a^[1]到输出层，a₍₁₎^[1]  a₍₂₎^[1]  a₍₃₎^[1]  a₍₄₎^[1]依次表示隐藏层的四个节点，所以a^[1]可以表示为一个如下所示的4x1维的向量。最后输出层产生a^[2]

4. 隐藏层和输出层包含有相关的参数w^[1]，b^[1]并且w^[1]是一个4x3的矩阵（4是Node的数量，3是输入特征向量的维度），b^[1]是一个4x1的向量，同样的输出层包含有参数w^[2]，b^[2]并且w^[2]是一个1x4的矩阵（4是隐藏层Node的数量，1是输出层Node的数量），b^[1]是一个1x1的向量.