Machine Learning - Coursera 吴恩达机器学习教程 Week10 学习笔记（Learning With Large Datasets）

sanity check（合理性检查）

大数据量带来高计算代价，所以首先得确定，是不是大数据量有帮助？

检查Jcv 和 Jtrain 的学习曲线。

如果如左图，有高方差，则说明过拟合了，增加数据量有帮助；
如果如右图，增加数据量没有太大帮助。

随机梯度下降法（Stochastic Gradient Descent）

普通的梯度下降，当m很大时，下面蓝色方框的计算会耗时很高。

普通的梯度下降，又称为batch gradient descent，每次都需要读取所有数据。

这里就引出了随机梯度下降法。

1. 随机shuffle数据集</