机器学习笔记：过拟合与欠拟合

---

前言

今天复习机器学习基础知识，关于过拟合和欠拟合有段比喻感觉很不错，让人印象深刻，这里分享给大家。

---

过拟合与欠拟合

过拟合与欠拟合现象就如同我们在过往经历上花费的精力，如果我们对过往的细节过分追究势必需要花费很大的精力，那我们很可能深陷其中，反而对未来充满畏惧（过拟合）；如果我们不在乎过去，不善于总结，那不论是过去还是未来，那势必不会很如意（欠拟合）。

这里顺便说下个人理解：
过拟合，就是在训练数据集上误差小，但是在测试数据集上误差大；
欠拟合，就是在训练数据集上误差大，测试数据集上误差也大；
上图中的黑色实点是二次函数曲线采样点，左边图（a）是线性函数拟合结果，明显欠拟合；右边图（c）是9次多项式函数拟合结果，成功拟合所有点，但是明显过拟合了；中间图（b）是二次函数拟合结果，成功拟合所有点，恰到好处。

---

参考资料

《深度学习实战》