理解 Bias 与 Variance
有监督学习中,预测误差的来源主要有两部分,分别为 bias 与 variance,模型的性能取决于 bias 与 variance 的 tradeoff ,理解 bias 与 variance 有助于我们诊断模型的错误,避免 over-fitting 或者 under-fitting.
我们知道,不同的model对同一testing data的performance是不同的,而且不一定越复杂的model表现越好,那么误差来自于哪儿呢?这就是本节要讨论的问题。而误差主要有两个来源:
![](https://i-blog.csdnimg.cn/blog_migrate/5765bc9d8b043f4a3e4e5f372d6c7463.png)