【吴恩达机器学习笔记】5神经网络的学习

9 神经网络的学习(Neural Networks: Learning)

9.1 代价函数（Cost Function）

假设神经网络的训练样本有$m$个，每个包含一组输入$x$和一组输出信号$y$，$L$表示神经网络层数，$S_I$表示每层的neuron个数($S_l$表示输出层神经元个数)，$S_L$代表最后一层中处理单元的个数。

将神经网络的分类定义为两种情况：二类分类和多类分类，

二类分类：$S_L=0,y=0or1$表示哪一类；

$K$类分类：$S_L=k,y_i=1$表示分到第$i$类；$(k>2)$

逻辑回归中代价函数为：

$J(\theta )=-\frac{1}{m}[{\sum }_{i=1}^m{y}^{(i)}\log h_{\theta }(x^{(i)})+(1-y^{(i)})log(1-h_{\theta }(x^{(i)}))]+\frac{\lambda }{2m}{\sum }_{j=1}^n{{\theta }_j}^2$

逻辑回归中只有一个输出变量，又称标量（scalar），也只有一个因变量$y$，但在神经网络中，可以有很多输出变量，$h_{\theta }(x)$是一个维度为$K$的向量，并且训练集中的因变量也是同样维度的一个向量，因此代价函数会比逻辑回归更加复杂，为：$$h_{\theta }\left(x\right)\in {\mathbb{R}}^K$$

$${\left(h_{\theta }\left(x\right)\right)}_i=i^{th}\text{output}$$

$$J(\Theta )=-\frac{1}{m}\left[\sum _{i=1}^m\sum _{k=1}^k{y_k}^{(i)}\log (h_{\Theta }(x^{(i)}))+\left(1-y_k^{(i)}\right)\log \left(1-\left(h_{\Theta }\left(x^{(i)}\right)\right)\right)\right]+\frac{\lambda }{2m}\sum _{l=1}^{L-1}\sum _{i=1}^{s_l}\sum _{j=1}^{s_{l+1}}{\left({\Theta }_{ji}^{(l)}\right)}^2$$

可以利用循环，对每一行特征都预测$K$个不同结果，然后利用循环在$K$个预测中选择可能性最高的一个，将其与$y$中的实际数据进行比较。

正则化的那一项只是排除了每一层${\theta }_0$后，每一层的$\theta$ 矩阵的和。最里层的循环$j$循环所有的行（由$s_{l+1}$ 层的激活单元数决定），循环$i$则循环所有的列，由该层（$s_l$层）的激活单元数所决定。即：$h_{\theta }(x)$与真实值之间的距离为每个样本-每个类输出的加和，对参数进行regularization的bias项处理所有参数的平方和。

9.2 反向传播算法（ Backpropagation algorithm）

为了计算代价函数的偏导数$\frac{\partial }{\partial {\Theta }_{ij}^{(l)}}J\left(\Theta \right)$，需要采用反向传播算法，也就是首先计算最后一层的误差，然后再一层一层反向求出各层的误差，直到倒数第二层。

9.3 反向传播算法的直观理解（Backpropagation intuition）

上图中的 ${\delta }_j^{(l)}="error"ofcostfor{a}_j^{(l)}(unitjinlayerl)$ 相当于是第 $l$ 层的第 $j$ 单元中得到的激活项的“误差”，即”正确“的 $a_j^{(l)}$ 与计算得到的 $a_j^{(l)}$ 的差。而 $a_j^{(l)}=g(z^{(l)})$ ，（g为sigmoid函数），更准确的说 ${\delta }_j^{(l)}=\frac{\partial }{\partial z_j^{(l)}}cost(i)$

9.4 使用注意：展开参数（Implementation note_ Unrolling parameters ）

本节介绍从矩阵展开成向量，以便在高级最优化步骤中的使用需要。

9.5 梯度检验（Gradient checking）

当对一个较为复杂的模型（如神经网络）使用梯度下降算法时，可能会存在一些不容易察觉的错误，虽然代价看上去在不断减小，但最终的结果可能并不是最优解。为了避免这样的问题，采取梯度的数值检验（Numerical Gradient Checking）方法。这种方法的思想是通过估计梯度值来检验计算的导数值是否真的是要求的。

当$\theta$是一个向量时，需要对偏导数进行检验。因为代价函数的偏导数检验只针对一个参数的改变进行检验，下面是只针对${\theta }_1$进行检验的示例：
$$\frac{\partial }{\partial {\theta }_1}=\frac{J\left({\theta }_1+{\epsilon }_1,{\theta }_2,{\theta }_3...{\theta }_n\right)-J\left({\theta }_1-{\epsilon }_1,{\theta }_2,{\theta }_3...{\theta }_n\right)}{2\epsilon }$$

最后还需要对通过反向传播方法计算出的偏导数进行检验。

根据上面的算法，计算出的偏导数存储在矩阵 $D_{ij}^{(l)}$ 中。检验时要将该矩阵展开成为向量，同时也将 $\theta$ 矩阵展开为向量，针对每一个 $\theta$ 都计算一个近似的梯度值，将这些值存储于一个近似梯度矩阵中，最终将得出的这个矩阵同 $D_{ij}^{(l)}$ 进行比较。

9.6 随机初始化（Random initialization ）

初始所有参数为0对于逻辑回归来说是可行的，但对于神经网络来说不可行。如果令初始参数都为0，第二层的所有激活单元都会有相同的值。同理如果初始所有的参数都为一个非0的数，结果也是一样的。通常初始参数为正负 ε 之间的随机值。

9.7 综合起来（utting it together）

使用神经网络时的步骤：

网络结构：第一件要做的事是选择网络结构，即决定选择多少层以及决定每层分别有多少个单元。

第一层的单元数即训练集的特征数量。

最后一层的单元数是训练集的结果的类的数量。

如果隐藏层数大于1，确保每个隐藏层的单元个数相同，通常情况下隐藏层单元的个数越多越好。

我们真正要决定的是隐藏层的层数和每个中间层的单元数。

训练神经网络：

1. 参数的随机初始化

2. 利用正向传播方法计算所有的$h_{\theta }(x)$

3. 编写计算代价函数 $J$ 的代码

4. 利用反向传播方法计算所有偏导数

5. 利用数值检验方法检验这些偏导数

6. 使用优化算法来最小化代价函数

9.8 自主驾驶（Autonomous driving）

使用神经网络来实现自动驾驶