线性回归模型求解推导

线性回归模型推导
线性拟合模型:
h θ ( x ) = θ 0 + θ 1 x 1 + θ 2 x 2 h θ ( x ) = ∑ i = 0 n θ i x i = θ T x ⋯ ① \begin{aligned}h_θ(x)&=θ_0+θ_1x_1+θ_2x_2 \\h_θ(x)&=\displaystyle \sum_{i=0}^nθ_ix_i=θ^Tx\cdots①\end{aligned} hθ(x)hθ(x)=θ0+θ1x1+θ2x2=i=0nθixi=θTx

误差,真实值和预测值之间存在的差异ε
对于每个样本:
y i = θ T x i + ε i ⋯ ② y_i=θ^Tx_i+ε_i\cdots② yi=θTxi+εi

假设:误差 ε i ε_i εi是独立并肯有相同的分布,并且服从均值为0方差为 θ 2 θ^2 θ2的高斯分布

预测值与误差由于服从高斯分布:
p ( ε i ) = 1 2 π σ e x p ( − ( ε i ) 2 2 σ 2 ) p(ε_i)=\frac{1}{\sqrt{2\pi}σ}exp(-\frac{(ε_i)^2}{2σ^2}) p(εi)=2π σ1exp(2σ2(εi)2)

由①代入②式:
p ( y i ∣ x i ; θ ) = 1 2 π σ

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值