机器学习强基计划0-5：为什么学习的本质是泛化能力？

0 写在前面

机器学习强基计划聚焦深度和广度，加深对机器学习模型的理解与应用。“深”在详细推导算法模型背后的数学原理；“广”在分析多个机器学习模型：决策树、支持向量机、贝叶斯与马尔科夫决策、强化学习等。强基计划实现从理论到实践的全面覆盖，由本人亲自从底层编写、测试与文章配套的各个经典算法，不依赖于现有库，可以大大加深对算法的理解。

🚀详情：机器学习强基计划(附几十种经典模型源码)

---

在数据集核心知识串讲，构造方法解析中我们提到模型适用于样本空间中新样本的能力称为泛化(generalization)，本节我们重点讨论一下机器学习模型中的泛化为什么这么重要。

1 拟合问题

机器学习算法的目标是在已知训练误差和测试误差的前提下，尽可能拟合真实规律以减小泛化误差。在拟合过程中主要有两种现象：