第二章.互联网情景下的智能学习——bias VS variance & 欠拟合 过拟合的概念

1.引入

“4个复参数可以拟合出一个大象”例子
引出——
参数过多是引发过拟合的主要原因

2.Bias VS Variance

机器学习中训练数据时 进行交叉验证涉及到的知识点：
先引入几个概念
Bias 偏差
Variance 方差
Error 误差

Error = Variance + Bias

什么代表准确呢？

准—判断训练集结果的Bias

Bias——偏差 描述的是根据样本拟合出的模型的输出预测结果的期望与样本真实结果的差距
（描述了在样本上拟合的好不好）
代表了 准

想要在Bias上表现好 达到low bias

可以看到上图中的low Bias对应的是：点都打在靶心附近，所以瞄的是准的 但是手不一定稳。
需要复杂化模型，增加模型的参数，但是！
这样容易过拟合（overfitting）~（就像上面说的那样）

啥是过拟合？

如下图 就是high variance，点很分散。

是的 这也是个过拟合的结果

再举个小栗子

确—判断测试集效果的variance

variance描述的是在样本上训练出来的模型在训练集上的表现，

要想在variance上表现好 达到low variance ——每个点都打得很集中但不一定准

就要简化模型，减少模型的参数，但是这样容易欠拟合（unfitting）

啥是欠拟合啊？

对应本图就是

太不准了！！！

做个小结：

可以参考简书上这个博主的文章~
Bias 和 Variance 理解

举个栗子

【1】预测蛇形曲线

接下来用测试集进行预测

【2】预测直线

来看看根据训练集获得的预测直线

总而言之 那个蛇形的预测曲线与这个一条直线的预测都或多或少的有问题 我们想要训练出一个更好的模型
需要不断地调整参数——
让我们模型的bias 和 variance 都很低~