机器学习中的泛化误差

方差-偏差困境，一般来说偏差和方差冲突称为方差-偏差困境。在机器学习中，用来衡量模型在未知数据上的准确率的指标，叫做泛化误差（Generalization error）。一个集成模型($f$)在未知数据集($D$)上的泛化误差$E(f;D)$，由方差($var$)，偏差($bias$)和噪声($\epsilon$)共同决定。其中方差是模型的稳定性决定，偏差是训练集上的拟合程度决定，噪音是不可控的，泛化误差越小，模型就越理想。
$$E(f;D)=bia{s}^2+v$$