基本假设
我们假设一个数据集满足 y = f ( x ) + ε y=f(x)+\varepsilon y=f(x)+ε，取自联合概率密度函数 p ( x , y ) p(x,y) p(x,y)。x为特征，y为标签， ε \varepsilon ε是期望为0的随机扰动项，一般可设其满足 N ( 0 , 1 ) N(0,1) N(0,1)。
偏差和方差
我们把该数据集分成K份训练集和一份验证集(交叉验证的方式)，用各训练集分别训练得到K个模型，再用这K个模型分别运行验证集(含N个样本)，得到K份预测值记为 y ^ i j \hat{y}_{ij} y^ij，真实值记为 y j y_j yj,其中 i = 1 , 2... K , j = 1 , 2... N i=1,2...K,j=1,2...N i=1,2...K,j=1,2...N
- Bias ( y ^ ) = 1 N ∑ j N [ ( 1 K ∑ i K y ^ i j ) − y j ] \operatorname{Bias}(\hat{y})=\frac{1}{N}\sum_j^N{[(\frac{1}{K}\sum_i^K \hat{y}_{ij})-y_j]} Bias(y^)=N1∑jN
最低0.47元/天 解锁文章
6499
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
