文章目录
基本示例
本文我们主要讨论一下自定义实现线性回归以及使用sklearn如何实现线性回归。
线性回归的模型比较简单,本文就不再细述:
y ^ = θ ⋅ X = θ 0 + θ 1 x 1 + θ 2 x 2 + . . . + θ n x n \hat{y} = \theta \cdot X = \theta_0 + \theta_1 x_1 + \theta_2 x_2 + ... + \theta_n x_n y^=θ⋅X=θ0+θ1x1+θ2x2+...+θnxn
回归模型大多使用均方根误差RMSE作为性能指标,但在实践中,将均方误差MSE最小化比将RMSE简单的多,而且效果相同。所以线性回归的成本函数为:
M S E = ( X , h θ ) = 1 m ∑ i = 1 m ( θ T x ( i ) − y ( i ) ) 2 MSE = (X, h_\theta) = \frac{1}{m}\sum_{i=1}^m(\theta^T x^{(i)} - y^{(i)})^2 MSE=(X,hθ)=m1i=1∑m(θTx(i)