吴恩达机器学习笔记3-评估假设

判断过拟合的方法
1. 观察图像。但是特征太多没办法观察
2. 划分数据集为训练集和测试集，70%和30%。又叫交叉验证。

模型选择
可以一个一个模型试，计算测试集cost，但是这样选择出来的模型和参数可能出现过度拟合测试集了。

为了解决这个问题，把数据集分为
1. 训练集 60%
2. 交叉验证集 20%
3. 测试集 20%

针对选择模型复杂度的问题
高偏差：训练集和验证集的误差都大
高方差：训练集的误差大，验证集的误差小

正则化参数到选择
从0,0.01,0.02,0.04,0.08…不断尝试，使用交叉验证集来评估参数的效果

随着数据集的增大，训练集的平均误差也会逐渐增大，验证集的误差会逐渐缩小，两者会逐渐接近。对于高偏差的情况，增加数据集并不会对损失有多大影响