【机器学习】如何快速找到模型算法中存在的问题

训练集、验证集和测试集

训练集(train sets)主要用于训练模型，调整参数，验证集(validation sets)用于进一步调参，而测试集(test sets)用于最后评估模型的精度。一般训练集、验证集和测试集的比例为60%,20%,20%。

Bias&Variance

我们的学习模型和真实值之间的误差主要来自三个方面：Bias，Variance和随机误差。其中随机误差，也叫噪声，是我们无法避免的。所以我们主要讨论Bias和Variance。
Bias通常是由于我们的模型欠拟合(underfit)造成的，而Variance通常是由于模型过拟合(Overfit)造成的。
下图是形象地表示出多项式的度与High Bias和High Variance的关系。（图来自Andrew Ng）

下图是正则化参数$\lambda$与Bias/Variance之间的关系

注意：在计算$\lambda$与误差之间的关系时，先用带有正则参数的损失函数$J(\theta )$计算出$\Theta$，然后将求出的$\Theta$计算出不带正则的$J_{cv}(\theta )$和$J_{train}(\theta )$。

学习曲线(learning curve)

学习曲线(learning curve)是表示样本数目大小(m)与训练集误差( J t r a i n ( θ