最小二乘法推导
假设一组数据线性关系为 y = β 0 + β 1 x \ y=\beta_0 +\beta_1x y=β0+β1x
实际建模中系数 β 0 , β 1 \ \beta_0,\beta_1 β0,β1是未知的，但是我们的数据是已知的，为了让我们估计的 y ^ \ \hat{y} y^与实际的 y \ y y 尽可能接近，我们使
R S S = ( y 1 − y ^ 1 ) 2 + ( y 2 − y ^ 2 ) 2 + … … + ( y n − y ^ n ) 2 \ RSS = (y_1-\hat{y}_1)^2+(y_2-\hat{y}_2)^2+……+(y_n-\hat{y}_n)^2 RSS=(y1−y^1)2+(y2−y^2)2+……+(yn−y^n)2
= ( y 1 − β 0 − β 1 x 1 ) 2 + ( y 2 − β 0 − β 1 x 2 ) 2 + … … + ( y 2 − β 0 − β 1 x 2 ) 2 \ = (y_1-\beta_0-\beta_1x_1)^2+(y_2-\beta_0-\beta_1x_2)^2+……+(y_2-\beta_0-\beta_1x_2)^2 =(y1−β0−β1x1)2+(y2−β0−β1x2)2+……+(y2−β0−β1x2)2
= ∑ i = 1 n ( y i − β 0 − β 1 x i ) 2 \ =\sum_{i=1}^n(y_i-\beta_0-\beta_1x_i)^2 =∑i=1n(yi−β0−β1xi)2
因为 R S S \ RSS RSS最小值为0，没有最大值，所以当 R S S ( β 0 , β 1 ) \ RSS(\beta_0,\beta_1) RSS(β0,β1)对未知参数 β 0 , β 1 \ \beta_0,\beta_1 β0,β1求偏导等于0：
= { ∂ R S S ( β 0 , β 1 ) ∂ β 0 = − 2 ∑ i = 1 n ( y i
最低0.47元/天 解锁文章
577
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
