机器学习－过拟合 (Overfitting)

　　在统计学和机器学习中，overfitting一般在描述统计学模型随机误差或噪音时用到。它通常发生在模型过于复杂的情况下，如参数过多等。overfitting会使得模型的预测性能变弱，并且增加数据的波动性。
看下图：

　　绿线表示overfitting的模型，黑线表示正则化模型。虽然绿线最符合训练数据，但它太依赖于它，并且与黑线相比，新的未看见的数据可能具有更高的错误率。说白了, 就是机器学习模型于自信。 已经到了自负的阶段了。说到自负的坏处， 就是在自己的小圈子里表现非凡, 不过在现实的大圈子里却往往处处碰壁。所以在这里可以自负和过拟合画上等号。

underfitting 发生在统计模型和机器学习算法无法捕获数据的基本趋势时例如：当拟合一个线性模型到非线性数据时。就会发生underfitting，模型的预测性能就会很差了。

下图就是欠 - 均衡 - 过 拟合的对比图。

如何避免过拟合

• 增加数据量, 大部分过拟合产生的原因是因为数据量太少了.