神经网络与深度学习笔记——3.2神经网络表示

1.神经网络表示符号

隐藏层：训练集中可以看到输入输出值，但看不到隐藏层值。

将输入输出用a表示也可以，a表示激活的意思，意味着网络不同层的值会传递给后一层。

上述神经网络虽然包含输入层、隐藏层、输出层三层，但在文献中我们称之为双层神经网络，其中隐藏层是第一层，输出层是第二层。

隐藏层、输出层是有参数的，隐藏层有两个参数W[1]维度是4*3，因为有4个隐藏单元，3个输入x特征，b[1]维度4*1，注意在参数上角标标出层数，表明是第几个layer的参数；输出层有参数W[2]维数是1*4 ，因为隐藏层4个隐藏单元，输出层一个单元,b[2]维度1*1。