机器学习算法之模型评估和验证【1】过拟合、欠拟合、学习曲线、验证曲线

1.模型的误差产生的机制

• 误差（Error）：模型预测结果与真实结果之间的差异
• 偏差（bias）：模型的训练误差叫做偏差
• 方差（Variance）：训练误差和测试误差的差异大小叫方差

1.1 欠拟合与过拟合

       欠拟合：在训练数据和未知数据上表现都很差，高偏差

解决方法：

1）添加其他特征项，有时候我们模型出现欠拟合的时候是因为特征项不够导致的，可以添加其他特征项来很好地解决。例如，“组合”、“泛化”、“相关性”三类特征是特征添加的重要手段，无论在什么场景，都可以照葫芦画瓢，总会得到意想不到的效