方差(variance):描述预测值P的变化范围、离散程度,是预测值的方差,也就是离期望值E的距离;
方差越大,数据的分布也就越分散
概率论中,方差用来度量随机变量和起数学期望之间的偏离程度;
统计学中,方差是各个数据分别与其平均数之差的平方的和的平均数;
方差度量同样大小的训练集的变动所导致的学习性能的变化,刻画了数据扰动所来到了影响;
偏差(bias):描述预测值的期望E与真实值Y之间的差距;
偏差越大,越偏离真实数据
偏差度量学习算法的期望测试与真实结果之间的偏离程度,刻画了学习算法本身的拟合能力;
噪声:在当前任务上任何学习算法所能达到的期望泛化误差的下界,刻画了问题学习本身的难度;
MSE(mean squared Error):均方误差,描述的真实值减去预测值,然后平方之后求和平均,即