吴恩达.深度学习系列-C1神经网络与深度学习-w4深度神经网络

前言

Deep L-layer neural network

shallow 与 Deep 是相对的。
一般对某些问题进行分类，可以先从逻辑回归（最简单的单个神经元），逐步增加网络层数，并把层数做为一个超参数，使用交叉验证来判定多少层的网络适合我们的分类问题。
符号申明：

• $W^{[l]}是用来计算Z^{[l]}的参数,W^{[l]}*A^{[l-1]}+b^{[l]}=Z^{[l]}$
• $n^{[l]}表示第l层的神经元个数，n^{[0]}是输入层特征的个数$
• $a^{[l]}表示第l层输出的激活值，a^{[0]}=x是输入层的x_1,x_2... x_{n_x}。a^{[L]}是输出层$

Forward Propagation in a Deep Network

在上图这样一个3×5×5×3×1的5层网络中，Forward propagation的vecteration表达如下：
第0层是输入层，L=4层，第L层是输出层。
n[0]=nx=3,n