1.视频网站:mooc慕课https://mooc.study.163.com/university/deeplearning_ai#/c
2.详细笔记网站(中文):http://www.ai-start.com/dl2017/
3.github课件+作业+答案:https://github.com/stormstone/deeplearning.ai
1.9 归一化输入 Normalizing inputs
训练NN,其中一个加速训练的方法就是归一化输入。
如上图,数据集的散点图。
假设一个训练集有两个特征,输入特征为2维,归一化需要两个步骤:
- step1:零均值
μ = 1 m ∑ i = 1 m x ( i ) \mu =\frac 1m\sum_{i=1}^mx^{(i)} μ=m1i=1∑mx(i)
向量X等于每个训练数据 x 减去 μ \mu μ,即X := x-μ
,意思是移动训练集,直到它完成零均值化。如下图。
- step2:归一化方差
注意:上图中特征 x 1 x_1 x1的方差比特征 x 2 x_2 x2的方差要大得多
我们要做的是给 σ \sigma σ赋值。
σ 2 = 1 m ∑ i = 1 m ( x (