01 神经网络概览
- 在这里用[ l ]来表示神经网络的第l层,用来跟( i )表示的第几个训练样本做区分。神经网络需要反复的计算z和a。
02 神经网络表示
- 只有一个隐藏层的神经网络:分为输入层、隐藏层、输出层。其中输入层和输出层的值都是在训练集中能看到的,隐藏层的值不能看到。在计算神经网络层数时是不算输入层的,同时我们使用a ^ [ l ]_i表示符号,a也代表激活的意思,它意味着网络中不同层的值会传递给后面的层,即每一层都会产生激活值,我们将这些激活值用a ^ [ l ]_i表示(l表示第几层,下标i表示层中的第几个节点)。在本例中w参数是(4,3)维的,其中4代表四个隐藏单元,3代表有三个输入特征
03 计算神经网络的输出
神经网络的输出究竟是如何算出来的
- 这里的圆圈代表逻辑回归计算的两个步骤,神经网络只不过是计算这些步骤很多次(隐藏层的每一个节点都计算一次)。
- 下面把这四个等式向量化:向量化时的一条经验法则就是当我们在一层中有不同的节点,那就纵向的堆叠起来(例如a^ [1]就是a^ [1] _1~a^ [4] _ 4这些激活值的堆叠)。
- 计算出四个隐