本文介绍了机器学习中的误差组成，包括Bias（偏差）和Variance（方差），并详细阐述了它们的概念和相互关系。偏差衡量模型预测期望与实际值的差距，方差反映了模型预测结果的稳定性。通过实例和推导过程，展示了如何通过调整模型复杂度来平衡Bias和Variance。最后，讨论了在实际系统中，Bias与Variance的权衡是机器学习的重要主题。
一、概念介绍
Error=(Bias)^2 + Variance+Noise
Error（误差）：整个模型的准确度，即模型预测结果与实际结果之间的差距。
Bias(偏差):度量了估计期望（模型对数据集预测结果的平均值与实际值之间的差距）
Variance(方差)：反映的是模型每一次输出结果与模型输出期望之间的误差，即模型的稳定性。（模型预测的结果与与模型对样本集预测的平均值之间的差距）
举一个例子，一次打靶实验，目标是为了打到10环，但是实际上只打到了7环，那么这里面的Error就是3。具体分析打到7环的原因，可能有两方面：
一、是瞄准出了问题（即模型中的bias，精确度不足），比如实际上射击瞄准的是9环而不是10环；在上面一次射击实验中，Bias就是1,反应的是模型期望与真实目标的差距
二、是枪本身的稳定性有问题（即模型中的variance,稳定性不足），虽然瞄准的是9环，但是只打到了7环。那么，而在这次试验中，由于Variance所带来的误差就是2，即虽然瞄准的是9环，但由于本身模型缺乏稳定性，造成了实际结果与模型期望之间的差距。
二、推导过程
这里采用平方误差函数来计算模型的误差，依据该误差选择模型。
所以误差均值公式如下：
最低0.47元/天 解锁文章
2701
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
