T1、偏差/方差/噪声/泛化误差---如何理解

一、概念：

插入概念：

期望：这里的期望是指数据集D的样本X通过预测模型f得到的预测值f(X,D)的预测期望。用公式可以做如下表示：

                                                              

1、偏差（bias）：期望预测与真实值的误差，记为。一般可以表示为算法的拟合能力如何。

2、方差（var）：同一个算法在不同数据集D的预测值f1(X;D)和所有数据集平均预测值f2(X;D)的关系，一般可以理解为算法在不同数据集的稳定性。记为：